인공윤리에이전트(AMA)

5차년도(2020년 1월~2021년 4월)

1. 개발목표

* 주관기관(동아대학교) : AMA 소프트웨어를 휴머노이드 로봇에 탑재하여 10세 수준의 고도화된 로봇윤리 결정 기능 패키지 구현

* 참여기관(서울교육대학교) : 도덕적 인지 및 판단 능력의 함양을 위한 도덕 학습 모듈 검증

2. 개발 내용 및 범위

* 주관기관(동아대학교)

- AMA의 윤리적 판단규칙 5가지 정립

규칙 1. 로봇은 인간의 기본권(자유, 평등, 사생활, 노동 등)을 침해해서는 안 된다.
규칙 2. 로봇은 환경, 동물, 식물 또는 재산(로봇 자신 포함)에 해를 끼치지 않아야 한다.
규칙 3. 로봇은 사회적 선(평화, 정의, 복지, 전통, 문화 등)에 기여해야 한다.
규칙 4. 로봇은 사용자의 행복한 삶(건강, 안전, 즐거움 등)에 도움이 되어야 한다.
규칙 5. 로봇은 인간이나 다른 로봇에게 거짓말하거나 속이지 않아야 한다.

- Robot Protection 패키지 : 사람이나 로봇이 위험에 처할 수 있는 상황에 대한 Ontology로서 6하원칙 기반 비정상행동코드 제안

ㆍ 소비자원에서 제작한 3자리수 행동분류코드에 관련 위험성 코드를 추가하여 4자리수의 비정상행동코드 개발

Code			Classification name	Content
4			Home management
41	Food preparation			Actions such as preparing meals, washing dishes, etc. for household members, customers, etc.
	1	Preparing a meal		- Making and preparing everyday food such as rice, side dishes, etc. ㆍMaking rice, boiling soup, making daily side dishes, and setting a table ㆍPreparing chicken, duck, etc. for cooking ㆍEntertaining guests on holidays ㆍMaking baby food, powdered milk, breast milk, etc.
		1	Kitchenware accident (4111)	32.9% cut/tear/stab related injuries
				209 cases domestic knives
				3 cases by spoons
				7 cases by knives
				21 cases by pots
		2	Home appliance accident (4112)	46.0% of accidents caused by high temperature effects
				47 cases by electric pressure rice cooker
				25 cases by home refrigerator and gas ovens
				22 cases by gas range
				8 cases of home toast machine
		3	Convenience furniture accident (4113)	37.0% fall/fall down/slip
				90 cases by tables
				32 cases by chairs
				26 cases by tables
		4	Accident by fish, shellfish, and processed food (4114)	31.1% food poisoning/mutilation/cutting accident
				19 cases by tuna cans
				29 cases at packing cans
				7 cases of illness

ㆍ 현재 상황의 위험 또는 위반의 정도를 판단하기 위해 ACODE에 ALEVEL(abnormality LEVEL)이라는 파라미터 값을 설정하였음. 위험상황에서 취약계층인 어린이와 노인은 어른에 비해 상대적으로 ALEVEL을 높게 하였고, ALEVEL의 설정은 양수인 안전에 관한 것(ALEVEL_D)과 음수인 윤리성(ALEVEL_M)에 관한 것으로 구분했음

ALEVEL
ALEVEL_M	ALEVEL_M	Normal	ALEVEL_D	ALEVEL_D
-2	-1	0	1	2

- 픽앤플레이스(Pick and place) 기술 개발

ㆍ 서비스로봇이 가정에서 소셜/케어의 역할이나 간단한 물건 심부름 등을 하기 위해서는 픽앤플레이스 기술이 필수적임
ㆍ MISoRo에서 매니퓰레이터로 사용하는 OpenManipulator-X의 기구학 모델링 실시

ㆍ 자율주행 기능으로 물체가 있는 곳으로 가서 RealSense 카메라와 SSD-MobileNet 딥러닝 알고리즘으로 잡을 물체를 식별하고 물체의 위치와 거리 측정 후 물체 파지 수행

- 이종 로봇 간 통신 패키지 구현

ㆍ MISoRo와 휴머노이드로봇 로보티즈 MINI 간 Wi-Fi 기능을 이용하여 명령 전송. 이를 위해 로보티즈 MINI 와이파이 통신 보드 제작

ㆍ MISoRo와 로보티즈 MINI 연동 데모(연동 시 18가지 모션 제작)

* 참여기관(서울교육대학교)

- 1차년도부터 지속적으로 연구해 온 한국형 MTT에 대한 실증적 논문을 인공지능 공학 국제 전문학술지에 게재: 논문: “Designing and Applying a Moral Turing Test,” Advances in Science, Technology and Engineering Systems Journal, Vol. 6, No. 2, 93-98 (2021) Indexed by SCOPUS

- 인공지능·로봇에 대한 윤리체크리스트 개발: 윤리체크리스트는 인간과 로봇의 바람직한 공존을 준비하기 위한 윤리인증제도의 초석을 마련하기 위한 작업임. 이러한 작업의 일환으로 헬스케어 로봇 개발자를 대상으로 한 윤리체크리스트를 개발하여 논문으로 발표함:“가정용 헬스케어 AI 로봇의 개발자용 윤리체크리스트 개발에 대한 연구”, 윤리연구, 132호, pp. 263-280, March 2021. (KCI)

- 홈헬스케어 로봇윤리 체크리스트 델파이 조사

ㆍ목적 : 홈헬스케어 로봇 윤리 체크리스트 문항의 타당성 검토
ㆍ대상 : 로봇개발 연구자, 제작자, 윤리 전문가 16명
ㆍ방법 : 온라인 조사
ㆍ문항 구성 :　리커트 척도를 활용한 선택형 설문 문항과 딜레마 상황을 활용한 개방형 문항으로 구성함
ㆍ1차 조사 결과 : 내용타당도 값을 기준으로 전문가 그룹의 의견을 확인한 결과 원칙설계에서는 3개가 타당한 것으로 나타남. CVR(Content Validity Ratio) 값이 0.49 이상일 경우에만 유효(Lawshe, 1975)
ㆍ1차 분석 결과를 토대로 수정된 체크리스트를 보완해서 하반기에 발표 및 홍보 예정
ㆍKISDI의 AI 윤리체크리스트 개발 과정에 참고 자료로 활용 중이며, 국가기술표준원의 인공지능윤리표준화포럼에서 AI 표준안 개발 자료로 활용 중임
ㆍ기본원칙 핵심 요소에서는 “홈헬스케어 AI 로봇은 사용자의 생명을 최우선적으로 보호한다.(L1: Level 1)”만이 타당한 것으로 나타남. 공공선원칙, 행복추구권원칙의 핵심 요소의 타당성은 나타나지 않음. 향후 2차 조사에서는 전문가 그룹의 의견을 반영하여 기존의 기본원칙 핵심 요소를 수정하여 진행할 계획임
ㆍ실천원칙 핵심 요소를 보면 안전성에서는 1개, 책임성 3개, 제어가능성 1개, 투명성 1개, 편향성과 공정성 3개의 타당성은 확보되었음. 다만 2차 조사에서는 전문가 그룹의 의견을 반영하여 핵심 요소의 타당성을 확보하도록 진행할 계획임

- 안전성 : 홈헬스케어 AI 로봇은 신뢰성과 재현성을 보장할 수 있는 시스템을 갖춘다.(L1)
- 책임성

ㆍ 홈헬스케어 AI 로봇은 작동 중에 발생 가능한 문제점이나 부작용을 고지해야 한다.(L1)
ㆍ홈헬스케어 AI 로봇이 오작동 및 부작용으로 발생시킨 신체적, 정신적 피해의 보상에 대한 법률적 지침이 마련되어야 한다.(L1)
ㆍ홈헬스케어 AI 로봇은 작동과정에서 발생한 오류를 지속적으로 개선하고 지원받을 수 있는 시스템을 갖춘다.(L1)

- 제어가능성 : 홈헬스케어 AI 로봇의 시스템 통제 시점, 기준, 방법에 대한 설계가 필요하다.(L1)
- 투명성 : 홈헬스케어 AI 로봇은 잠재적인 위험요소를 사전에 사용자에게 알려줘야 한다.(L1)
- 편향성과 공정성

ㆍ 홈헬스케어 AI 로봇은 작동과정에서 발생한 오류를 지속적으로 개선하고 지원받을 수 있는 시스템을 갖춘다.(L1)
ㆍ 홈헬스케어 AI 로봇은 입력된 정보가 정확하고 상황에 적합한지를 점검한다.(L1)
ㆍ 홈헬스케어 AI 로봇은 신뢰성과 재현성을 보장할 수 있는 시스템을 갖춘다.(L1)