COMPANY 인공윤리에이전트
  • AMA 과제 소개
    • 연도별 개발 내용
      • 1차년도
      • 2차년도
      • 3차년도
      • 4차년도
      • 5차년도
  • 발표 논문
  • 과제 참여자
  • main_banner02.png

    AMA 과제 소개
    인공윤리 에이전트 개발

    인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다. 

  • main_banner02.png

    AMA 소스코드
    AMA메타패키지 다운로드

    OP용 AMA 버전1.0 메타패키지를 다운받으세요. 

2차년도(2017년)
1. 개발목표

* 주관기관(동아대학교): ROS-Soar 아키텍처에 Top-down 방식과 Bottom-up 방식의 윤리적 의사결정 레이어 구현

* 참여기관(서울교육대학교): Bottom-up 방식의 도덕적 원칙 체계의 개발과 인공지능을 위한 도덕적 판단력 검사도구 개발

2. 개발 내용 및 범위
* 주관기관(동아대학교)

- 인공지능 소프트웨어 아키텍처인 Soar에 윤리적 의사결정이 가능한 ethical component(Top-Down 방식과 Bottom-Up 방식의 ethical layer) 신규 구현 및 배포

- ROS-Soar 패키지에 Top-Down 방식의 윤리적 의사결정 레이어 구현
ㆍ 공리주의 이론과 칸트의 의무론을 결합하여 Soar Top-down ethical layer 구현

- ROS-Soar 패키지에 Bottom-Up 방식의 도덕적 학습 레이어(콜버그의 인습이전 수준) 구현
ㆍ Soar의 강화학습 기능을 이용하여 행위에 대한 상벌 알고리즘을 개발함으로써 복종 지향 윤리모듈 개발
ㆍ Soar의 Chunking 기능과 Episodic/Semantic/Procedural Memory를 이용하여 개인주의, 도구적 목적 및 거래 지향 윤리모듈 개발
* 참여기관(서울교육대학교)
- 다양한 소셜/케어로봇의 도덕적 판단력 검사에 사용될 윤리적 판단 요소 추출 및 요소들 간의 위계 구조 설정

- 인공지능에 적용될 수 있는 제한된 의미의 조작적인 도덕 개념의 정립

- 상향식 윤리적 플랫폼 및 시나리오 개발