BUSINESS 연구 자료
  • 로봇윤리 이론
    • 로봇윤리원칙
  • AMA 소스코드
  • Soar
  • ROS
  • HRI
  • 참고문헌
  • main_banner02.png

    AMA 과제 소개
    인공윤리 에이전트 개발

    인간과 로봇이 서로 진정한 소통을 하기 위해서는 인공지능에 도덕적인 요소들이 함께 접목되어 개발되어야 한다. 

  • main_banner02.png

    AMA 소스코드
    AMA메타패키지 다운로드

    OP용 AMA 버전1.0 메타패키지를 다운받으세요. 

인공지능·로봇(의 개발과 활용)에 대한 윤리 가이드라인(안)

 

◆ 본 로봇윤리헌장(가이드라인)은 인공지능·로봇의 윤리적 활용에 대해 민간차원에서 논의할 수 있는 근거를 마련하자는 취지로 로 한국로봇산업진흥원에서 후원하고 한국로봇학회 로봇윤리연구회에서 작성함

◆ 이처럼 민간차원에서 다양한 분야와의 합의를 거친 가이드라인(안)을 마련하여 정부에 제출함으로써 향후 정부차원으로「로봇윤리헌장」을 제정·시행함에 도움이 될 것으로 보임

◆ 필요하다면,“지능형 로봇 개발 및 보급촉진법”을 근거로 (가칭)로봇윤리 자문단 등을 구성·운영하여 공학, 법학, 윤리, 철학 등 다양한 분야 전문가의 자문의견을 적극 수용할 것을 정부에 권유함

1. 서론

인공지능·로봇 기술의 급속한 발전은 일자리와 사회 구조, 사회 구성원의 생활 방식, 사고의 패러다임 등 미래 사회에 거대한 변화를 가져올 것으로 예상된다. 특히 인공지능·로봇은 인간의 삶에 커다란 영향을 미치면서, 동반자·동료·비서 등 다양한 역할을 수행할 것으로 기대된다.

인공지능·로봇이 인간과 공존하며 서비스를 제공하거나 협업하는 과정에서, 기술의 고도화로 인해 본래의 목적을 벗어나는 비윤리적 행위를 하거나, 직·간접적으로 예상치 못한 피해를 입히는 등 점차 사회적 문제로 대두될 가능성이 높아지고 있다.

이러한 상황에서 인공지능·로봇으로 인해 발생될 것으로 우려되는 이슈가 지속적으로 제기되고 있으며, 이러한 이슈들을 해결하기 위해 사회적 공감대를 형성하고, 인간의 존엄성을 보호하면서 공공선 실현에 기여할 수 있도록 인공지능·로봇의 개발과 이용에 대한 로봇윤리헌장 제정의 필요성이 제기되고 있다. 그리고 이러한 로봇윤리헌장(가이드라인)을 제정하는 과정에서 다양한 분야의 전문가가 참여하여 사회적 합의를 모색할 필요가 있다.

한편, 로봇윤리는 법제화, 표준화 등 국제적으로 그 기준을 선점한 국가 및 단체가 주도권을 잡고 영향력을 지속적으로 확보하는 경향이 있으며, 최근 美·日·EU 등 로봇 선진국을 중심으로 로봇윤리 원칙 또는 가이드라인, 입법 결의안 등을 경쟁적으로 발표하는 등 로봇윤리 국제 기준을 선점하려는 움직임이 활발하다.

국내에서도 이러한 국제적 트렌드를 반영하여 로봇의 설계·제작·공급·사용·관리 단계의 행위주체가 갖추어야 할 윤리원칙을 규정하고, 이를 지속적으로 연구·보완함으로써 全세계적으로 모범이 될 수 있는 로봇윤리헌장(가이드라인)의 제정을 추진할 필요성이 있다.

이에 국내의 현황을 반영하고 국제적 로봇윤리 원칙 등을 비교분석하여 인간의 존엄성 보호, 공공선 추구, 인간의 행복 추구의 기본가치와 투명성, 제어가능성, 책무성, 안전성, 정보보호의 실천원칙으로 구성된 로봇윤리헌장(가이드라인)(안)을 민간차원에서 마련해 보았다.

본 로봇윤리헌장(가이드라인)의 목적은 인공지능·로봇 기술의 발전 및 활용 확대에 따라 인공지능·로봇이 본연의 목적에 맞게 잘 사용되도록 인공지능·로봇의 설계·제작·공급·사용·관리 등의 단계 내 행위주체의 역할을 정하고, 동시에 함께 지켜야 할 사회적 책임에 대해 논의하는 자료를 제공하는 것이다.

 

본 로봇윤리헌장(가이드라인)의 제정 논의를 시작해야 하는 이유는 다음과 같다.

○ 인공지능·로봇으로 인한 인간 삶의 질 향상, 여가시간 확대, 위험한 노동의 대체 등 긍정적 측면이 점차 대두되고 있는 상황에서 인간과 로봇이 공존하는 사회적 공감대를 형성할 필요성이 있다.

○ 반면에 인공지능·로봇의 활용이 확대됨에 따라 일자리 대체·감소와 소득 양극화 등의 부작용에 대해 대응방안을 논의할 필요성이 있다.

 

지금까지의 연구를 통해 본 로봇윤리헌장(가이드라인) 제정의 기본방향은 다음과 같다.

(미래 사회상 설정) 로봇이 인류의 평화롭고 행복한 삶에 기여하는, 미래의 이상적인 생활상을 설정하고, 이를 달성하기 위한 행위 기준으로서의 일반원칙 도출

(사회적 공감대 확보) 구체적이고 이해하기 쉬운 기준을 제시하고, 다양한 분야의 전문가 및 일반 시민들의 의견을 지속적으로 수렴함으로써 사회적 공감대 확보

(글로벌 트렌드 반영) 전 세계적인 로봇윤리 원칙, 가이드라인 및 행위지침의 트렌드를 반영하여 원칙 설정 및 해설서 작성

(로봇윤리 행위주체 설정) 로봇의 설계·제작·공급·사용·관리의 전 단계에 걸쳐 윤리적으로 행동해야 할 행위주체를 로봇의 제작자, 서비스 공급자, 사용자로 구분

(현실적 기준 제시) 행위주체에게 과도한 강제성을 부여하지 않도록 주의하고, 최대한 현실적 기준 제시 노력

(지속적 홍보와 참여 독려) 전 국민이 관심과 흥미를 가지고 참여할 수 있도록 홍보하고 설문조사, 전문가 간담회, 시민 대상 설명회 개최 등을 통해 인공지능·로봇 개발과 이용에 관한 보편적인 로봇윤리헌장(가이드라인)을 제공

2. 용어의 정의

로봇윤리헌장(가이드라인)에 사용되는 용어의 정의는 다음과 같다.

(로봇) 외부환경을 스스로 인식하고 상황을 판단하여 자율적으로 동작하는 기계장치

(인공지능) 인간의 지적 능력인 인지, 학습, 추론, 판단, 기억, 자연어처리 등의 기능을 소프트웨어로 구현한 기술

(인공지능·로봇) 로봇, 인공지능, 인공지능이 탑재되어 작업을 수행하는 로봇을 총칭
* 인공지능의 수준은 임무의 복잡도, 환경의 복잡도, 인간-로봇 상호작용 정도에 따라 레벨 0(완전 수동식)부터 10(완전 자율화)까지 정의된, 미국 NIST(National Institute of Standards and Technology)의 ALFUS(Autonomy Levels for Unmanned System)를 준용

<참고> Huang, Pavek, and Albus et al., Autonomy Levels for Unmanned System (ALFUS) Framework: An Update, Proceedings of SPIE Defense and Security Symposium, 2005

 

로봇윤리헌장(가이드라인)의 행위주체는 다음과 같이 제작자, 서비스 공급자, 사용자로 정의한다.

(제작자) 인공지능, 로봇 부품, 제어기, HRI(Human-Robot Interaction, 인간로봇상호작용) 등 로봇 기술의 하드웨어 또는 소프트웨어 분야에서 각종 이론, 요소기술, 통합기술, 서비스, 제품 등을 연구, 설계, 개발, 제작, 직접 판매, 관리 등을 하는 자 또는 단체, 기관, 회사
* 예: 로봇 또는 인공지능 분야의 연구원, 개발자 및 제작에 참여하는 모든 자(실버로봇의 경우 노인학자, 심리학자, 인간공학자, 철학자 등)

(서비스 공급자) 제작된 인공지능·로봇을 판매·공급하거나, 설치 및 통합관리(System Integration)하거나, 시장의 수요에 맞춰 다양한 인공지능·로봇 서비스를 제공 및 운영함으로써 부가가치를 창출하는 자 또는 단체, 기관, 회사
* 예: 드론 또는 경비로봇 서비스 운용회사, 청소로봇을 활용한 빌딩청소 서비스 회사 등

(사용자) 인공지능·로봇을 활용하여 인공지능·로봇이 제공할 수 있는 서비스를 직·간접적으로 이용하는 자 또는 단체, 기관, 회사
* 예: 드론을 구입하여 사용하는 시민과 드론에 노출된 주변인들, 교육용 로봇을활용하는 교사와 학생 등

 

3. 로봇윤리헌장(가이드라인)

본 로봇윤리헌장(가이드라인)은 세 가지 기본가치와 다섯 가지 실천원칙으로 구성한다.

3.1 기본가치

1) 인간의 존엄성 보호(Protection of Human Dignity)

- 인공지능·로봇의 제작목적이나 그 행위는 인간을 수단화하거나 도구화할 수 없으며, 인간의 존엄성을 존중하고 보호하도록 개발 및 사용되어야 한다.
- 인공지능·로봇은 모든 인간의 기본적인 자유, 사생활, 개인정보, 신변 안전 등의 기본적인 권리를 보호할 수 있도록 설계·제작·공급·사용·관리되어야 한다.
- 인공지능·로봇 제품 및 서비스의 설계·제작·공급·사용·관리에 있어서 성별·연령·장애·인종·종교·국가 등을 차별하지 않도록 한다.

2) 공공선 추구(Pursuit of Public Good)

-인공지능·로봇은 인류 전체의 복지향상과 공공복리에 기여하도록 설계·제작·공급·사용·관리되어야 한다.
- 인공지능·로봇 기술 및 서비스는 최대 다수의 사람들에게 혜택을 주고 그들의 역량을 강화시킬 수 있는 의도로 설계·제작·공급·사용·관리되어야 한다. 그리고 이러한 기술 및 서비스에 대한 사회적 약자 및 취약계층의 접근성을 보장하도록 노력해야 한다.
- 공공의 이익이 사적인 이익보다 현저하게 큰 경우를 제외하고는 개인의 사적 이익을 해하지 않는 범위 내에서 인공지능·로봇을 사용해야 한다.

3) 인간의 행복 추구(Pursuit of Happiness)

-인공지능·로봇의 존재 목적은 인간의 삶의 질 향상과 행복 증진을 위한 것이다.
- 인공지능·로봇은 인간과의 관계에서 주체적인 지위보다는 수단적 또는 도구적 지위를 가진다.

3.2 실천원칙

1) 투명성(Transparency)

-제작자와 서비스 공급자는 인공지능·로봇을 활용하는 과정에서 입출력 값의 검증 가능성과 판단과정 및 결과의 설명 가능성에 유의한다.
- 제작자와 서비스 공급자는 사용단계에서 예상되는 위험에 대한 사전 테스트를 거치고, 이 과정에서 도출된 정보의 설명 가능성에 유의한다.

2) 제어가능성(Controllability)

-제작자는 사용자가 인공지능·로봇을 작동하는 과정에서 사용자의 판단에 의해 그 작동을 제어 또는 정지할 수 있는 기능을 알려야 한다.
- 제작자는 서비스 공급자 및 사용자에게 인공지능·로봇의 기능을 충분히 알리고, 서비스 공급자 및 사용자는 이를 사전에 숙지하도록 노력하여야 한다.

3) 책무성(Accountability)

-제작자는 서비스 공급자에게, 제작자와 서비스 공급자는 사용자에게 일어날 수 있는 사고 및 그에 대한 배상체계와 책임소재에 대해 충분히 알릴 필요가 있다.
- 서비스 공급자와 사용자는 제작자의 제작 의도 및 사용용도에 맞게 인공지능·로봇 제품을 사용하도록 유의할 필요가 있다.

4) 안전성(Safety)

- 제작자와 서비스 공급자는 인공지능·로봇 기술 및 서비스가 사용자의 안전을 최우선으로 보장하도록 노력해야 한다.
- 제작자와 서비스 공급자는 인공지능·로봇의 공급 이후에라도 결함 또는 위험 발생의 우려가 있을 경우 사용자에게 고지해야 한다.

5) 정보보호(Security)

- 인공지능·로봇을 이용하여 타인의 사생활을 침해하거나 부당한 정보를 취득하지 않도록 유의한다.
- 제작자와 서비스 공급자는 인공지능·로봇이 만들어 낼 정보 및 데이터의 비대칭성에 유의해야 하며, 로봇과 상호작용하는 사람이 주변의 자료나 개인정보 수집에 대한 동의 및 부동의 의사를 표현할 경우 즉시 인공지능·로봇의 활동에 반영될 수 있도록 노력한다.

4. 결론

본 로봇윤리헌장(가이드라인)은 인공지능·로봇을 설계·제작·공급·사용·관리하는 과정에서 각 행위주체들이 유의해야할 사항을 제시할 목적으로 제정되었다. 따라서 로봇과 관련된 업종의 기관, 단체, 기업 등 종사자 및 사용자들에게 우선적으로 본 로봇윤리헌장(가이드라인)을 준수하기를 권유한다.

향후 인공지능·로봇을 설계·제작·공급·사용·관리하는 단계에서 로봇윤리와 로봇기술의 발전은 건전한 사회 시스템을 구현하도록 노력해야 한다. 이를 위해 인공지능·로봇 연구는 그 사회의 법률, 정책, 제도, 문화, 교육, 복지, 안전, 윤리 등과 연계 및 융화되어 건전한 사회 기반이 구축되는 방향으로 진행되어야 할 것이다.

아울러 인공지능·로봇 활용이 확대되면서 발생하는 문제 및 이의 해결방안에 대하여 학계 및 연구소, 산업계, 정부, 국회, 사법기관, 기술 전문가, 시민이 함께 참여하는 협의체 또는 위원회를 운영하고 교육, 고용, 복지 등 관련 정책에 이를 반영할 필요가 있다.

또한 美·日·EU 등 로봇선도국가 및 윤리관련 주요 단체(IEEE Global AI Ethics Initiative, FLI, OpenAI, 일본 인공지능협회 등), IT대기업(Google 등 윤리위원회를 두고 있는 기업) 등과 국제 컨퍼런스를 개최하는 등 국제적 협력을 지속적으로 추진할 것을 권고한다.

-2018년 9월 20일 서울에서 개최된 '제1회 로봇윤리포럼'에서 발표 -