바른정보 빠른뉴스 - No.1 보험포털 인터넷 보험일보입니다

홈으로

뉴스

보험종합

글자크기

AI챗봇 '이루다' 논란發 AI리스크↑… 'AI특화보험' 개발 시급

[2021-01-18 14:02:00]

보험硏 "AI 오작동·오류로 인한 '신종 AI사고'발생 리스크 대비해야"… 보험사 자체 AI리스크도 대비 긴요

[insura] 국내서 AI(Artificial Intelligence : 인공지능) 기술도입이 단기간내 급증하면서 AI의 오작동 및 오류로 인한 새로운 형태의 사고들이 발생, 최근엔 AI챗봇 '이루다'의 혐오발언 논란이 불거지기도 했다. 이에 AI 리스크 대응을 위한 보험개발이 필요하다는 지적이 제기됐다.

18일 보험연구원 발간 'AI 리스크와 전용보험의 필요성(김윤진 연구원)' 보고서에 따르면, 최근 여러 기업이 AI기술을 도입·활용하면서 긍정적 효과들이 부각되고 있지만 동시에 신종사고 발생發 AI 실패에 대한 우려가 크다.

美시장조사 기업 가트너가 전세계 89개국, 3000명의 최고정보관리책임자(CIO)를 대상으로 진행한 설문 조사에 의하면 지난 4년간(2015～2019년) 'AI 기술을 활용하고 있다'고 응답한 기업의 수는 10%에서 37%로 증가했다. 또한 구글, 제너럴모터스(GM), 파이저 등 글로벌기업 91.5%는 'AI 기술에 지속적으로 투자하고 있다'고 밝힌 바 있다.

AI 기술 발전과 동시에 AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과인 AI 리스크 역시 더욱 다양한 형태로 진화하고 있다.

보험연구원 김윤진 연구원은 "AI 기술 도입이 단기간에 급격하게 증가함에 따라 이전에는 예상할 수 없었던 AI 오작동 및 오류로 인한 새로운 종류의 사고들이 발생하기 시작하면서 AI 실패 우려가 제기되고 있다"고 지적했다.

실제로 국내 스타트업이 개발한 챗봇 '이루다'가 편향된 알고리즘 데이터 학습에 따른 성차별·사회적 약자 혐오 발언을 해 출시 한 달도 안 돼 서비스가 중단됐다.

앞서 미국선 승차공유업체 우버의 자율주행차 알고리즘 오작동으로 인한 보행자의 신체상해 및 사망사건, 마이크로소프트가 개발한 트윗봇 '테이(Tay)'의 인종차별 및 정치편향적 트윗 업로드로 브랜드 이미지 훼손사례가 발생한 바 있다.

보고서는 기업들의 AI 리스크 인식과 대응수준이 낮은 것으로 평가되는 만큼 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련보험을 개발하고 활용할 필요가 있다고 강조했다.

우리나라 국회입법조사처 또한 AI 알고리즘 사전설계 및 사후 감독체계에서 의도하지 않았던 위험이 발생한 경우 피해보상 혹은 누구에게도 책임을 돌릴 수 없는 손해의 배상을 위한 보험제도 도입을 검토해볼 필요가 있다고 주장한 바 있다.

특히 현재 판매되는 사이버보험은 AI 리스크 중 데이터 및 보안관련 위험만 보장하는 수준에 머물고 있다. AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실을 보장받을 수 없는 만큼 AI 전용보험 개발이 시급한 상황이다.

가령 B사가 설계한 챗봇을 A사가 도입해 사용하던 중 알고리즘 오류로 인해 챗봇이 A사 브랜드 이미지를 훼손하는 경우 사이버 보험은 이를 보장하지 않고 있다. AI 활용에 따른 유무형의 피해가 발생할 경우 책임 소재를 놓고 논란이 커질 가능성이 크다.

김 연구원은 "보험사는 고객이 AI 리스크를 종합적으로 보장받을 수 있도록 보장 범위를 확대할 필요가 있다"고 지적했다.

보험사 자체적으로도 AI 리스크를 대비해야 한다는 지적이 나온다.

김 연구원은 "국내 보험사들도 AI 챗봇을 고객상담에 활용하고 보험사기 예방을 위해 AI 기술을 적용하는 등 다양한 분야에서 AI 기술 도입이 증가하고 있다"며 "AI 기술 활용 증가는 보험사 자체의 AI 리스크를 확대할 수 있기 때문에 보험사의 자체적인 AI 리스크 관리 방안을 마련할 필요가 있다"고 덧붙였다.