에이전틱 AI 개인정보 기준 연말 나온다…15개 기관이 꼽은 위험 ‘프롬프트 인젝션·과도한 권한’

개인정보위 정책협의회에서는 국내외 AI 개발·도입기관 15곳을 대상으로 7~8월 진행한 현장 인터뷰 결과가 공개됐습니다. 참여 기관들은 악의적인 입력으로 예상하지 못한 동작을 유도하는 프롬프트 인젝션과 에이전틱 AI에 지나치게 넓은 권한을 주는 문제를 주요 개인정보 위험으로 꼽았습니다.

에이전틱 AI는 답변만 생성하는 데 그치지 않고 다른 서비스나 도구를 사용해 목표를 실행할 수 있기 때문에, 같은 개인정보를 다뤄도 ‘무엇까지 스스로 실행할 수 있는가’가 별도 통제 항목이 됩니다. 서비스 운영자는 에이전트가 접근하는 데이터와 실행 가능한 작업 범위를 함께 관리해야 한다는 문제의식이 논의의 출발점입니다.

현장에서는 AI가 자율 수행할 업무와 사람의 승인을 받아야 하는 업무 사이의 경계를 정하고, 개발자·서비스 제공자 등 참여 주체의 지위와 책임을 명확히 해야 한다는 의견이 제시됐습니다. 에이전트의 로그와 메모리에 개인정보가 들어갈 수 있기 때문에 보관기간과 파기 기준도 함께 마련해야 한다는 제안이 나왔습니다.

기업이 지금 확인할 수 있는 실무 항목은 에이전트가 어떤 개인정보에 접근하는지, 외부 서비스에 어떤 작업을 할 수 있는지, 고위험 행동 전에 사람 승인이 필요한지, 로그와 메모리에 어떤 개인정보가 남는지를 목록화하는 것입니다. 이는 최종 규정이 확정됐다는 뜻이 아니라 연말 안내서 논의에서 이미 드러난 관리 쟁점을 미리 파악하는 작업입니다.

개인정보위는 23일 논의 내용을 올해 말 공개 예정인 ‘에이전틱 AI 개인정보 처리 안내서’와 개인정보 제도 혁신 방안에 반영할 계획이라고 밝혔습니다. 개인정보 처리근거 유연화와 AI 개인정보 활용 특례 운영, 안전장치와 책임 구조도 함께 논의됐습니다.

현재 시점에는 안내서의 최종 문구가 공개되지 않았으므로 특정 권한 설정 방식이나 보관기간이 이미 의무화됐다고 쓰면 안 됩니다. 다만 개정 개인정보 보호법의 관련 AI 개인정보 활용 특례는 2027년 3월 9일 시행 예정이라고 개인정보위가 설명했습니다. 사업자는 연말 안내서 공개 뒤 현재 권한·승인·보관 정책과 비교해 실제 변경이 필요한지 다시 확인하는 것이 정확합니다.