COMPANY 인공윤리에이전트
    • AMA 과제 소개
  • 연도별 개발 내용
  • 발표 논문
  • 과제 참여자
  • main_banner02.png

    AMA 과제 소개
    인공윤리 에이전트 개발

    인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다. 

  • main_banner02.png

    AMA 소스코드
    AMA메타패키지 다운로드

    OP용 AMA 버전1.0 메타패키지를 다운받으세요. 

과 제 명 소셜로봇의 윤리적 판단기능에 적용 가능한 10세 아동 수준의 도덕성을 갖춘 인공윤리 에이전트 개발
(Development of Artificial Moral Agent Equivalent to 10-Years-Old Children for Application to Ethical Judgement Capability of Social Robots)
수행기관 동아대학교(주관기관), 서울교육대학교(참여기관)
수행기간 2016년 5월 ~ 2021년 4월
책 임 자 김종욱 교수(총괄, 동아대학교), 변순용 교수(참여, 서울교육대학교)

 

윤리(ethics) 혹은 도덕성(morality)은 인간이 마땅히 지켜야 할 삶의 도리로서 인간다움의 핵심이다.

윤리는 인간의 모든 이성적 능력과 연결되어 있으며, 인간사회의 문화, 예술, 종교, 정치 등의 기반이 된다.

인공지능(artificial intelligence)은 인간의 지능, 즉 학습능력과 추론능력, 지각능력, 자연언어의 이해력 등을 컴퓨터 프로그램으로 구현하는 기술로서 인공지능의 연구 분야는 다음과 같이 구분된다.

 

 

인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다.

인공 도덕 행위자(Artificial Moral Agent, AMA)란 인공지능의 기반 위에 윤리적 능력이 소프트웨어로 구현된 에이전트(사용자를 대신하여 특정 작업을 수행하는 자율적이며 지능적인 프로세스)를 의미한다.

Cognitive Agent Architecture(CAA)는 인공지능의 3요소(인식, 추론, 학습)를 모두 구현할 수 있도록 perception(인지), reasoning(추론), planning(계획), learning(학습), memory(기억) 등을 전체적으로 조율하며, 동적인 환경에서 procedural(절차적) memory, semantic(의미론적) memory, episodic(일화적) memory 등을 효율적으로 저장 및 관리하고 불러올 수 있는 인지 소프트웨어 아키텍처이다.

본 과제에서는 로봇에 구현 가능한 윤리적 판단 알고리즘을 연구하고, 이를 대표적인 오픈소스 CAA인 SoarROS(Robot Operating System), HRI(Human-Robot Interaction)를 통합한 소프트웨어 에이전트에 구현함으로써 AMA(Artificial Moral Agent) 소프트웨어를 개발하고 이를 소셜/케어 로봇플랫폼에 적용함으로써 인간의 편리한 삶과 복지 및 행복에 기여하는 동반자 로봇(companion robot)의 기반기술을 확립하는 것을 목표로 한다.

또한 향후 전개될 인간과 로봇의 공존시대에 대응하기 위해 로봇을 대상으로 한 윤리인증제도의 선행 작업을 수행한다.