요즘 ChatGPT를 모르는 사람을 찾기 힘들다. 학생들도 스마트폰만 있으면 생성형 인공지능으로 단어 검색도 하고 자신의 일상을 ChatGPT와 공유하기도 한다. 전 세계적으로 인공지능 기술의 활용은 일상의 전 범위에 침투해 있고 우리나라도 인공지능에 관한 기본법을 2024년 12월 국회에서 통과시켰다. 바로 여러분이 아시는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 인공지능기본법)’이다.
● 인공지능기본법은 우리 삶에 어떤 영향을 미칠까?
인공지능법을 연구하는 사람으로서 작년 한 해 가장 많이 받은 질문이 바로 이것이다. 결론부터 말하자면 인공지능기본법은 사용자를 보호하고 인공지능산업 발전을 위한 취지로 만들어진 법이다. 그러나 학술적으로 구체적인 면에서는 개정의 문제점을 안고 있기도 하다. 학술적인 문제점은 학자들의 몫이니 가장 핵심적인 개념 중 하나인 ‘고영향 인공지능’이라는 개념만을 소개해 드리고자 한다. 이 법에서는 고영향 인공지능의 개념을 ‘사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로, 다음 각 목의 어느 하나의 영역에 활용되는 것’이라고 상정했다.
● 고영향 인공지능이란?
벌써 단어만 들어도 복잡하게 느껴질 것이다. 그렇다면 사례를 하나 들어보겠다. 의료 이미지를 분석하는 AI 모델 기업이 있다면 이는 AI 개발 사업자이다. 그리고 의료영상을 진단하는 AI 이용 사업자는 고영향 AI 사업자로서 ‘책무 이행’의 대상이 된다. 고영향의 인공지능을 개발하는 사업자와 이용하는 사업자는 일정한 의무를 지게끔 되어 있다. 그렇다면 병원, 의사, 방사선사 등 AI 보조 시스템을 활용하여 환자에게 진단 서비스를 제공하는 사람은? 고영향 인공지능의 이용자일 뿐, 책무의 이행은 요구되지 않는다.
정리하자면 고영향 인공지능의 ‘개발사업자(의료영상 분석하고 개발하는 기업)’와 ‘이용사업자(의료영상 진단하고 인공지능시스템을 제공하는 기업)’에게 일정한 책무를 지워 ‘이용자(의료인)’와 ‘영향받는 자(환자)’를 보호하려는 취지이다. 그러나 이러한 점에서 해당 인공지능이 고영향인지 여부를 판단하는 것과 이에 걸맞는 안전성·신뢰성 확보 조치 의무를 대체할 수 있을지의 문제 등은 각 개별 법령에서 판단되어야 하므로 조금은 복잡한 문제점을 가지고 있다.
● 생성형 인공지능에 대한 규제는?
그럼 우리 계명인이 가장 많이 사용하는 인공지능 기술 중의 하나인 ‘생성형 인공지능’에 대한 규제는 없을까? 있다. 생성형 인공지능은 이를 이용한 제품 또는 서비스를 제공하는 사람에게 투명성 확보 의무를 법에서 부과하고 있다. 생성형 인공지능을 기반으로 운용한 것임을 고지하도록 하고 생성형 인공지능을 이용하여 생성되었다는 사실을 표시하라는 것이다.
법은 한 번 만들어지면 수정하거나 변경하기 어렵고 많은 국민에게 큰 영향을 미치기도 한다. 인공지능기본법도 현재는 완벽한 모습은 아니다. 그리고 인공지능 자체도 결코 완전하지 않다. 최근 미국에서는 동반자 AI(대화형으로 캐릭터를 설정해두고 가상의 인공지능 상대방과 대화하는 챗봇)를 사용하다가 지나친 정서적 의존으로 인하여 역효과도 발생하고 있다.
여러분께 간절하게 부탁드린다. 인공지능은 ‘사람’이 아니다. 여러분 곁에는 여러분을 응원하는 가족이 있고, 친구가 있으며, ‘사람’이 있다. 부디 사람에게 물어주기 바란다. 작년 한 해 인공지능기본법의 연구로 상당한 시간을 보냈음에도 더 쉽고 더 명쾌하게 설명해 드리지 못하는 것은 모두 필자의 부족이다. 이 글을 읽고 질문해 준다면 언제든 기꺼이 설명해 드리겠다.
