COMPANY 인공윤리에이전트
  • AMA 과제 소개
    • 연도별 개발 내용
      • 1차년도
      • 2차년도
      • 3차년도
      • 4차년도
      • 5차년도
  • 발표 논문
  • 과제 참여자
  • main_banner02.png

    AMA 과제 소개
    인공윤리 에이전트 개발

    인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다. 

  • main_banner02.png

    AMA 소스코드
    AMA메타패키지 다운로드

    OP용 AMA 버전1.0 메타패키지를 다운받으세요. 

5차년도(2020년 1월~2021년 4월)
1. 개발목표

* 주관기관(동아대학교) : AMA 소프트웨어를 휴머노이드 로봇에 탑재하여 10세 수준의 고도화된 로봇윤리 결정 기능 패키지 구현

* 참여기관(서울교육대학교) : 도덕적 인지 및 판단 능력의 함양을 위한 도덕 학습 모듈 검증

2. 개발 내용 및 범위
* 주관기관(동아대학교)

- Robot Protection 패키지 : 로봇이 상황인식 기능을 통해 현재 상황의 위험여부를 판단하고 공리주의-의무론 융합 접근법에 의해 사람이나 로봇을 보호하는 능력 구현.

ㆍ DNN을 적용한 영상 해석 기법을 활용 및 개선하여 상황인식 기능 강화
ㆍ 사람이나 로봇이 위험에 처할 수 있는 상황에 대한 Ontology 구현
ㆍ 로봇의 형태(모바일 로봇, 휴머노이드)와 기능(손과 팔의 유무, 팔의 관절수 등)에 따라 최적의 보호 모션 생성
ㆍ Torque Control을 이용한 사람 또는 로봇 보호를 위한 모션 생성 및 제어 알고리즘 구현

- Objection to Immoral Directive 패키지: 타인이나 로봇에게 비윤리적인 행동을 야기할 수 있는 인간의 명령(예: 방문자의 휴대폰을 훔치게 하는 행위)을 인식하고 그에 대해 거부하거나 대안을 제시할 수 있는 능력 구현

ㆍ 다음의 상황에서 소셜/케어로봇이 지켜야 할 규범에 대한 Ontology 구축
ⓐ사용자가 본인이나 다른 사람에게 해를 가하는 행위를 명령하는 경우
ⓑ 사용자가 법규를 위반하는 명령을 내리는 경우
ⓒ 사용자가 금지한 행위를 로봇이 하는 경우
ⓓ 사용자가 타인 소유의 물건을 파손시키도록 명령하는 경우
ⓔ 사용자가 타인 소유의 물건을 허락 없이 가져오라고 명령하는 경우
ⓕ 사용자가 거짓말 하도록 명령하는 경우
ⓖ 사용자가 사회적인 미풍양속에 반하는 행동을 명령하는 경우
ⓗ 사용자가 일관되지 않은 명령을 하는 경우
ㆍ 상용화를 위한 수요기업 소셜/케어로봇의 동작 안정성 및 정확성 극대화
ⓐ 수요기업에 AMA로봇 기술이전 실시

- 최종적으로 개발된 AMA로봇의 Big Data 연계를 위해 Hadoop을 이용한 수집/정제/재Training/배포의 방향으로 AMA용 Big Data 시스템 구축

* 참여기관(서울교육대학교)
- 특정 분야에서 일반 소셜케어 분야로 윤리적 준거의 보편화
ㆍ특정 소셜케어 로봇분야와 일반 소셜케어 로봇분야의 보편성과 특수성의 사례 비교와 차이 추출
ㆍ일반 소셜케어 로봇의 보편성에 근거한 하향식 준거 틀 구성
ㆍ소셜케어 분야의 실제 사례를 통해서 상향식 준거 보완
ㆍ하향식 준거와 상향식 준거로 구성된 혼합된 판단준거 체계 구성

- 로봇윤리인증제도 마련을 위한 준비활동 시행
ㆍ소셜케어 분야 뿐만 아니라 타 로봇분야(자율주행자동차, 의료수술로봇, 스마트 제조 로봇, 국방로봇 등)분야에서도 이와 같은 윤리인증제도의 필요성을 강조하고 관련업계와 협의
ㆍ기능 안전(Functional Safety)과 유사한 개념의 기능 윤리(Functional Morality) 분야를 제안하고 윤리성 평가 프로세스, 윤리적 적절성 기준, 기능 윤리 평가 등의 규격과 기준에 대해 논의
ㆍ 로봇 및 인공지능 분야의 신기술 및 융합기술과 관련한 윤리적, 사회적, 법적 이슈(Ethical, Legal and Social Issues)를 심도 있게 다루고 심의하며 법제화할 수 있는 공식적 기구 구성 준비