COMPANY 인공윤리에이전트
  • AMA 과제 소개
    • 연도별 개발 내용
      • 1차년도
      • 2차년도
      • 3차년도
      • 4차년도
      • 5차년도
  • 발표 논문
  • 과제 참여자
  • main_banner02.png

    AMA 과제 소개
    인공윤리 에이전트 개발

    인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다. 

  • main_banner02.png

    AMA 소스코드
    AMA메타패키지 다운로드

    OP용 AMA 버전1.0 메타패키지를 다운받으세요. 

4차년도(2019년)
1. 개발목표

* 주관기관(동아대학교) : AMA 소프트웨어를 휴머노이드 로봇에 탑재하여 10세 수준의 기본적 로봇윤리 패키지 구현

* 참여기관(서울교육대학교) : 실제 소셜 및 헬스케어분야 종사자들의 윤리적 딜레마 사례의 조사분석을 통해 윤리적 알고리즘의 검증 및 준거를 제시하고, 로봇윤리인증제도 마련을 위한 준비 활동

2. 개발 내용 및 범위
* 주관기관(동아대학교)

- Robot Etiquette 패키지 : 10세 어린이가 지켜야 할 수준의 에티켓이나 법규를 AMA 패키지에 구현(예: 로봇이 가정의 모든 방에 접근 가능할 때 인간 거주자의 프라이버시 침해 가능 인식 능력)

- Emotional Response 패키지 : 로봇의 실수나 다른 이유로 사람이 로봇에게 부적절한 행동을 했을 때(예: 화를 내기, 욕하기, 로봇을 밀치기 등) 로봇의 적절한 정서표현 기능을 이용한 도덕적 대응 방안 구현

- Social Behavior 패키지 : 복수의 사람이 동시에 명령을 했을 때 우선순위에 의해 적절히 반응하기(예: 아이는 로봇에게 함께 놀자고 하고 어머니는 컵을 가지고 오라고 했을 때)

* 참여기관(서울교육대학교)

- 실제 소셜 및 헬스케어분야 종사자들과의 양적 질적 방법을 통해 이들이 실제로 경험하는 도덕적인 문제 사례들을 조사하여 인공지능이 이러한 상황에 처했을 경우에 해야 할 도덕적 판단을 위한 원칙들을 검증한다.

- 특정 소셜케어 로봇 분야에 맞는 윤리적 행위에 대한 준거 제시 / 윤리적 행위 준거들 간의 상충이 일어날 경우 이를 해결할 수 있는 메타 윤리적 행위 준거 제시
ㆍ 국내외 도덕적 판단능력 테스트의 사례 분석자료 활용
ㆍ 의무론과 공리주의에 근거한 하향식 준거 틀 완성
ㆍ 소셜케어 분야의 실제 사례를 통해서 상향식 준거 보완
ㆍ 하향식 준거와 상향식 준거로 구성된 혼합된 판단준거 체계 구성

- 로봇윤리인증제도 마련을 위한 준비활동 시행
ㆍ한국로봇산업협회에 '로봇윤리위원회(가칭)'설치
ㆍ 한국윤리학회와 한국로봇학회가 단독 또는 공동으로 주최하는 세미나와 워크샵을 정기적으로 개최하여 로봇윤리인증제도의 필요성 부각
ㆍ 한국로봇산업진흥원과 협의하여 소셜케어 로봇분야의 윤리인증제도 도입을 위한 실무적 방법 논의