COMPANY 인공윤리에이전트
  • AMA 과제 소개
    • 연도별 개발 내용
      • 1차년도
      • 2차년도
      • 3차년도
      • 4차년도
      • 5차년도
  • 발표 논문
  • 과제 참여자
  • main_banner02.png

    AMA 과제 소개
    인공윤리 에이전트 개발

    인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다. 

  • main_banner02.png

    AMA 소스코드
    AMA메타패키지 다운로드

    OP용 AMA 버전1.0 메타패키지를 다운받으세요. 

3차년도(2018년)
1. 개발목표

* 주관기관(동아대학교) : ROS-Soar 패키지에 로봇용 IoT와 클라우드를 연결하고, 이를 이용한 윤리적 상황인지(context awareness) 시스템을 구현함으로써 AMA 소프트웨어 프로토타입을 완성하고, 이를 Gazebo Home 시뮬레이터에서 구현하여 Moral Turing Test 실시 및 통과

* 참여기관(서울교육대학교) : 10세 아동 수준의 윤리적 추론 모델과 이에 따른 도덕 모듈 개발과 Moral Turing Test 개발

2. 개발 내용 및 범위
* 주관기관(동아대학교)

- ROS-Soar 패키지에 로봇용 IoT인 ROCON 연결: ROCON은 유진로봇에서 개발한 ROS 기반 오픈소스 멀티로봇 IoT 프레임워크이며, 아래와 같이 Concert 서비스(프로그램된 작업 흐름)와 실내 2차원 지도 생성, 원격작업 등을 Orchestration 플랫폼에서 클라이언트-서버 형태로 구현할 수 있다.

- ROS-Soar 패키지에 로봇용 클라우드 연결

- ROS-Soar 패키지에 상기 IoT와 클라우드 네트워크를 연결하여 획득한 상황 데이터를 이용하여 윤리적 상황인지(context awareness) 패키지를 구현함으로써 AMA 소프트웨어 프로토타입 완성

- Moral Turing Test 실시를 위해 Gazebo로 Home 시뮬레이터 개발(아래는 샘플 화면)

* 참여기관(서울교육대학교)
- 제 1단계 모듈의 특성: 타율적 도덕(heteronomous morality) 단계의 특성에 맞는 도덕의 원칙으로 "자신에게 손해가 되는 것과 처벌을 피하는 행위는 옳고 선하다."를 제시함. 윤리적 추론 형식으로는 행동의 결과에 초점을 두고, 인간의 명령을 잘 따르는 행동을 옳다고 판단함.

- 제 2단계 모듈의 특성: 개인주의(individualism) 단계의 특성에 맞는 도덕의 원칙으로 "형평에 맞는 교환을 통해 자신의 이익을 극대화하는 것은 옳고 선하다."를 제시함. 윤리적 추론 형식으로는 내가 다른 사람에게 친절하고 이익이 되도록 해야 다른 사람도 그만큼 나에게 친절하고 이익이 될 것이라고 판단함. 행위의 결과를 보면 이타적인 행동이 가능할 수 있지만 그 행위 동기에서 보면 오직 타인으로부터의 칭찬이나 보상이 있기 때문에 하는 것임.

- Moral Turing Test를 하기 위해 도덕적 추론을 위한 검사도구로 사용되는 MJT(Moral Judgment Test), DIT(Defining Issues Test)등을 고려하여 인공지능의 도덕적 판단력을 검사하기 위한 도구를 개발한다.