킬 스위치

개념
- 로봇공학 기술이 인간의 통제를 벗어날 경우를 이를 제어 하기 위해 로봇의 기능을 멈추게 하는 장치 - 본래의 의미는 분실한 정보기기 내의 정보 원격으로 삭제하거나 그 기기를 사용할 수 없도록 하는 기술

Ⅰ. 인공지능의 폭주 방지 대책, 킬 스위치의 개요

가. 킬 스위치의 정의

-로봇공학 기술이 인간의 통제를 벗어날 경우를 이를 제어 하기 위해 로봇의 기능을 멈추게 하는 장치

-본래의 의미는 분실한 정보기기 내의 정보 원격으로 삭제하거나 그 기기를 사용할 수 없도록 하는 기술

나. 킬 스위치의 등장배경

-빌 게이츠, 엘론 머스크, 스티븐 호킹등이 인공지능이 뜻하지 않을 방향으로 발전할 경우 파국을 맞을 것이라는 경고

-이에 대한 파국을 예방하기 위해 미국의 비영리 연구단체인 퓨처 오브 라이프 인스티튜트(FLI, Future of Life Institute)가 수 많은 단체에 동참 유도

          -2015년 12월 11일에 샘 알트만과 엘론머스크가 오픈 AI 설립

 

Ⅱ. 킬 스위치 체인의 필요이유 및 동작 절차

가. 킬 스위치 체인의 필요 이유

이유

내용

소프트웨어 오류

인공지능 자체의 소프트웨어 결함 발생 시

사람을 적으로 인식

사람과 같은 지능을 가진 인공지능이 사람을 적으로 인식하여 사람을 공격하게 되는 경우

악의적 해킹

해커가 자신의 욕심으로 인공 지능 해킹하여 오류 발생시키나 인공지능 개발자와 해커가 인공지능을 매개체로 전쟁을 벌일 경우

-위와 같은 이유로 킬 스위치 체인이 필요하며 오류 발생시의 최소한의 안정장치로 구동될 수 있음

나. 킬 스위치의 동작 절차

동작절차

내용

결함 발생

SW오류나 해킹으로 인한 인공지능의 결함 발생

인공지능 통제 불가

인공지능이 인간의 통제를 벗어난 상태 지속

킬 스위치 작동

인공지능을 강제로 종료하기 위한 킬 스위치 작동

인공지능 복구

결함의 원인 분석 및 오류 해결

인공지능 재 실행

인공지능의 안전성 여부 검토 후 인공지능 재 실행

킬 스위치 체인은 아직 연구 단계이며 실제로 구현이 되어있지 않기에 위와 같이 동작 할 것으로 예상하여 작성

 

Ⅲ. 킬 스위치의 시사점

-강인공지능의 도래 시 인공지능을 인간이 더 이상 통제를 하지 못할 수 있다는 사상을 기반으로 킬 스위치가 연구 진행

-인공지능이 인간에게 미칠 최악의 시나리오에 대비하여 최소한의 안전장치인 킬 스위치의 연구개발이 인공지능 발전에 꼭 필요함

댓글