COMPANY 인공윤리에이전트
  • AMA 과제 소개
    • 연도별 개발 내용
      • 1차년도
      • 2차년도
      • 3차년도
      • 4차년도
      • 5차년도
  • 발표 논문
  • 과제 참여자
  • main_banner02.png

    AMA 과제 소개
    인공윤리 에이전트 개발

    인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다. 

  • main_banner02.png

    AMA 소스코드
    AMA메타패키지 다운로드

    OP용 AMA 버전1.0 메타패키지를 다운받으세요. 

5차년도(2020년 1월~2021년 4월)
1. 개발목표

* 주관기관(동아대학교) : AMA 소프트웨어를 휴머노이드 로봇에 탑재하여 10세 수준의 고도화된 로봇윤리 결정 기능 패키지 구현

* 참여기관(서울교육대학교) : 도덕적 인지 및 판단 능력의 함양을 위한 도덕 학습 모듈 검증

2. 개발 내용 및 범위
* 주관기관(동아대학교)

- Robot Protection 패키지 : 로봇이 상황인식 기능을 통해 현재 상황의 위험여부를 판단하고 공리주의-의무론융합 접근법에 의해 사람이나 로봇을 보호하는 능력 구현

- Objection to Immoral Directive 패키지 : 타인이나 로봇에게 비윤리적인 행동을 야기할 수 있는 인간의 명령(예: 방문자의 휴대폰을 훔치게 하는 행위)을 인식하고 그에 대해 거부하거나 대안을 제시할 수 있는 능력 구현

- 최종적으로 개발된 AMA로봇의 Big Data 연계를 위해 Hadoop을 이용한 수집/정제/재Training/배포의 방향으로 AMA용 Big Data 시스템 구축

* 참여기관(서울교육대학교)
- 특정 분야에서 일반 소셜케어 분야로 윤리적 준거의 보편화
ㆍ특정 소셜케어 로봇분야와 일반 소셜케어 로봇분야의 보편성과 특수성의 사례 비교와 차이 추출
ㆍ일반 소셜케어 로봇의 보편성에 근거한 하향식 준거 틀 구성
ㆍ소셜케어 분야의 실제 사례를 통해서 상향식 준거 보완
ㆍ하향식 준거와 상향식 준거로 구성된 혼합된 판단준거 체계 구성

- 로봇윤리인증제도 마련을 위한 준비활동 시행
ㆍ소셜케어 분야 뿐만 아니라 타 로봇분야(자율주행자동차, 의료수술로봇, 스마트 제조 로봇, 국방로봇 등)분야에서도 이와 같은 윤리인증제도의 필요성을 강조하고 관련업계와 협의
ㆍ기능 안전(Functional Safety)과 유사한 개념의 기능 윤리(Functional Morality) 분야를 제안하고 윤리성 평가 프로세스, 윤리적 적절성 기준, 기능 윤리 평가 등의 규격과 기준에 대해 논의
ㆍ 로봇 및 인공지능 분야의 신기술 및 융합기술과 관련한 윤리적, 사회적, 법적 이슈(Ethical, Legal and Social Issues)를 심도 있게 다루고 심의하며 법제화할 수 있는 공식적 기구 구성 준비

- AMA 로봇의 기능 종합평가를 위한 시연 시나리오(작성 및 구현)
ㆍ도덕적 판단이 요청되는 여러 시나리오를 주고 여기서 로봇이 선택한 행위들이 기대된 행위에 어느 정도 부합되는 지에 대하여 전문가가 판단(양적 평가와 질적 평가의 혼합)
ㆍ 로봇의 행위판단 과정을 분석하고 이를 통해 전체의 체크리스트에서 채택된 항목이 전체의 60% 이상일 경우 MTT에서 Pass로 간주