에이전틱 AI 책임·허위 민감정보·개인정보 국외 이전 등 AI 시대 쟁점 다뤄
로스쿨부 서울대 ‘개보박두’·대학(원)부 고려대 ‘정법사’ 대상
 |
| ▲제4회 개인정보보호 모의재판’ 수상팀 명단(출처: 개인정보위원회) |
인공지능(AI)이 실제 사실과 다른 민감정보를 추론하거나 만들어냈다면 이를 개인정보로 봐야 할까. 사람의 개입 없이 업무를 수행하는 ‘에이전틱 AI’가 개인정보를 처리하다 문제가 생기면 책임은 누구에게 물어야 할까. AI 기술이 빠르게 발전하면서 현실의 법적 쟁점으로 떠오른 개인정보 보호 문제를 대학생과 법학전문대학원생들이 법정 공방으로 풀어냈다.
개인정보보호위원회는 지난 27일 서울시립대학교 모의법정에서 ‘제4회 개인정보보호 모의재판 경연대회’를 개최했다고 28일 밝혔다. 올해 대회에는 모두 54개 팀이 지원해 8개 팀이 본선에서 경쟁했다.
개인정보위는 개인정보 분야의 법률·기술 지식을 갖춘 청년 인재를 발굴하고 관련 현안에 대한 사회적 관심을 높이기 위해 2023년부터 매년 모의재판 경연대회를 열고 있다.
올해 주제는 ‘인공지능 시대의 개인정보 보호와 활용’이었다.
참가자들은 AI 학습·개발 과정에서 발생할 수 있는 개인정보 문제를 실제 재판과 같은 방식으로 다뤘다. 특히 에이전틱 AI의 자율적인 개인정보 처리에 대한 책임 귀속, AI가 추론하거나 생성한 허위 민감정보를 개인정보로 볼 수 있는지 여부, 서비스 개선 과정에서 발생하는 개인정보 국외 이전 등이 핵심 쟁점으로 제시됐다.
생성형 AI가 이용자의 질문에 답하는 수준을 넘어 스스로 판단하고 여러 작업을 수행하는 에이전틱 AI로 발전하면서 개인정보 보호에서도 새로운 법적 판단이 요구되고 있다. 기존 개인정보보호 체계가 사람이나 사업자의 직접적인 처리 행위를 중심으로 만들어졌다면, AI의 자율성이 커질수록 처리 과정과 결과에 대한 책임 주체를 어디까지 인정할 것인지가 중요한 문제로 떠오를 수 있다.
이번 대회에는 법학전문대학원생 부문 24개 팀과 대학(원)생 부문 30개 팀 등 모두 54개 팀이 지원했다. 예선을 거쳐 각 부문 4개 팀씩 총 8개 팀이 본선에 진출했다.
본선 진출팀의 변론 준비에는 산업계와 법조계 전문가들도 참여했다.
삼성전자, LG전자, 카카오, 비바리퍼블리카(토스), 현대자동차의 AI 전문가와 김앤장 법률사무소, 법무법인 세종·태평양·광장·화우 소속 변호사들이 참가자들의 변론 내용 완성도를 높이는 데 도움을 줬다.
본선에서는 김진환 개인정보보호위원회 위원이 재판장을 맡았다. 최종 수상팀은 학계·법조계 전문가로 구성된 심사위원단과 지난해 제3회 대회 수상 학생들로 구성된 배심원 평가를 종합해 결정했다.
경연 결과 법학전문대학원생 부문에서는 서울대학교 법학전문대학원의 ‘개보박두’팀이 대상을 받았다. 연세대학교·부산대학교 법학전문대학원 학생들로 구성된 ‘로스쿨고행길’팀은 최우수상을 차지했다.
서울대 법학전문대학원의 ‘동의버튼’팀과 ‘오손도손’팀은 각각 우수상을 받았다. 최우수 발표자상은 ‘개보박두’팀의 서울대 법학전문대학원 1학년 박지연 씨에게 돌아갔다.
대학(원)생 부문 대상은 고려대학교 ‘정법사’팀이 차지했다. 건국대·성균관대·한양대 대학원 학생들로 구성된 ‘라바(LAVA)’팀이 최우수상을, 경희대 ‘락(LOCK)’팀과 중앙대 ‘중개비’팀이 우수상을 받았다.
최우수 발표자상은 정법사팀의 고려대 정현우 씨가 수상했다. 자료 마지막 5페이지의 수상팀 명단에는 각 팀의 소속과 수상 내역까지 구체적으로 담겼다.
AI가 개인에 관한 정보를 단순히 저장·분석하는 수준을 넘어 기존 데이터를 토대로 새로운 정보를 추론·생성하고 자율적으로 처리하는 단계로 이동하면서 개인정보 보호를 둘러싼 법적 판단도 한층 복잡해지고 있다.
이번 모의재판에서 허위 민감정보의 개인정보 해당 여부와 에이전틱 AI의 책임 문제가 함께 다뤄진 것도 기술 발전에 따라 개인정보의 범위와 책임 구조를 다시 살펴봐야 하는 현실을 보여준다.
송경희 개인정보보호위원장은 “생성형 인공지능 시대를 지나 에이전틱 인공지능, 피지컬 인공지능 등으로 발전하는 거대한 기술적 전환기를 지나며 개인정보의 안전한 이용에 대한 사회적 요구가 더욱 강해질 것”이라고 말했다.
이어 참가자들이 대회를 준비하며 고민하고 토론한 경험을 바탕으로 AI 시대 개인정보 활용과 보호를 이끌 인재로 성장하기를 기대한다고 밝혔다.
피앤피뉴스 / 마성배 기자 gosiweek@gmail.com
[ⓒ 피앤피뉴스. 무단전재-재배포 금지]
