COMPANY 인공윤리에이전트
  • AMA 과제 소개
    • 연도별 개발 내용
      • 1차년도
      • 2차년도
      • 3차년도
      • 4차년도
      • 5차년도
  • 발표 논문
  • 과제 참여자
  • main_banner02.png

    AMA 과제 소개
    인공윤리 에이전트 개발

    인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다. 

  • main_banner02.png

    AMA 소스코드
    AMA메타패키지 다운로드

    OP용 AMA 버전1.0 메타패키지를 다운받으세요. 

4차년도(2019년)
1. 개발목표

* 주관기관(동아대학교) : AMA 소프트웨어를 휴머노이드 로봇에 탑재하여 10세 수준의 기본적 로봇윤리 패키지 구현

* 참여기관(서울교육대학교) : 실제 소셜 및 헬스케어분야 종사자들의 윤리적 딜레마 사례의 조사분석을 통해 윤리적 알고리즘의 검증 및 준거를 제시하고, 로봇윤리인증제도 마련을 위한 준비 활동

2. 개발 내용 및 범위
* 주관기관(동아대학교)

- 로봇 플랫폼: ㈜로보티즈의 TurtleBot3 Waffle + openManipulator

- AMA 로봇에 IoT 기본 센서(온도, 습도, 조도 인식)를 설치하여 로봇이 위치한 공간(가정 또는 사무실)의 생활 환경 인식

- AMA로봇에 다음과 같은 10세 수준의 Robot Etiquette/Social Behavior 기능 구현

ㆍ 사생활(Privacy) 침해하지 않기
ㆍ 가정에서 시간(아침, 낮, 밤)과 공간(안방, 부엌, 거실, 화장실 등)에 맞게 동작하기
ㆍ 사용자에게 안전성(Safety) 확보 기능

- Emotional Response 패키지: 로봇의 실수나 다른 이유로 사람이 로봇에게 부적절한 행동을 했을 때(예: 화를 내기, 욕하기, 로봇을 밀치기 등) 로봇의 적절한 정서표현 기능을 이용한 도덕적 대응 방안 구현. 이를 위해 다음의 패키지를 개발하여 AMA에 추가

ㆍ 감정 인식을 위해 TensorFlow를 이용한 Deep Neural Network, face_recognition 패키지, SoftMax 분류기를 연동하여 대상자 인식 및 표정 인식 기능 구현
ㆍ 사용자의 부적절한 행동에 대한 적절한 대응방안 시나리오 작성
ㆍ 로봇 감정생성 패키지: Russel의 2차원(arousal, valence) 감정공간 모델을 기반으로 Soar를 이용하여 로봇의 감정 생성 알고리즘 개발

- 향후 사업화를 위해 로봇 플랫폼 기업과 Robot Etiquette/Social Behavior 기술 분야 연구협력 및 기술이전

ㆍ 필드에서 적용 중인 각종 서비스(경비)로봇 사례를 제공받아 체계적이고 윤리적인 사용자 대응방안 제시
ㆍ 전시회, 학술대회에서 홍보를 통해 연구협력 참여·수요 기업 확대

* 참여기관(서울교육대학교)

- 헬스케어 분야 종사자들이 실제로 경험하는 도덕적인 문제 사례들을 조사하여 인공지능이 이러한 상황에 처했을 경우에 해야 할 도덕적 판단을 위한 원칙들을 검증한다.

- 가정용 헬스케어 로봇의 행위에 대한 윤리적 준거를 제시하고, 윤리적 행위 준거들 간의 상충이 일어날 경우 이를 해결할 수 있는 메타 윤리적 행위 준거 제시
ㆍ 국내외 도덕적 판단능력 테스트의 사례 분석자료 활용
ㆍ 의무론과 공리주의에 근거한 하향식 준거 틀 완성
ㆍ 소셜케어 분야의 실제 사례를 통해서 상향식 준거 보완
ㆍ 하향식 준거와 상향식 준거로 구성된 혼합된 판단준거 체계 구성

- 로봇윤리인증제도 마련을 위한 준비활동 시행
ㆍ 한국윤리학회와 한국로봇학회가 단독 또는 공동으로 주최하는 세미나와 워크샵을 정기적으로 개최하여 로봇윤리인증제도의 필요성 부각
ㆍ 한국로봇산업진흥원과 협의하여 소셜로봇 및 가정용 헬스케어 로봇분야의 윤리인증제도 도입을 위한 실무적 방법 논의

- 윤리적 판단기준의 정합성 확대를 위한 설문조사 방안
1,2차 설문연구 결과로 확인된 “인공지능의 도덕성 판단 기준 측정 문항”이 실제 MTT로 구현되고 검증될 수 있는지 확인하기 위해, 챗봇을 사용하여 인공지능의 도덕성 판단 수준을 분석하고, 그 결과를 실제 10세 수준 아동의 도덕성 판단 수준과 비교한다.
인공지능의 도덕성 판단 기준을 측정하는 문항은 기존의 설문 문항을 기초로 하되, 이외에도 가정용 케어 로봇이 직면할 수 있는 다양한 도덕적 상황에서 올바른 도덕 판단을 묻는 문항을 추가한다.