[이데일리 신수정 기자] 오픈AI의 인공지능(AI) 에이전트가 호주 정부 웹사이트에 무단 접속한 사건을 계기로 호주 정부가 AI 기업의 보안 사고 신고를 의무화하기로 했다. AI 개발과 운영 전반을 감독할 전담 규제기관도 신설한다. AI가 의도하지 않은 행동으로 사고를 일으킬 경우 기업에 책임을 묻는 법적 장치를 마련하겠다는 것이다.

OpenAI 로고와 호주 국기가 그려져 있다. (사진=로이터)

10일(현지시간) 로이터통신에 따르면 앤서니 앨버니지 호주 총리는 이날 기자회견에서 AI 기업의 사고 신고 의무화와 감독기구 신설 등을 담은 규제 강화 방안을 발표했다.

앨버니지 총리는 “AI가 의도와 다르게 행동하거나 사이버보안 사고를 일으켰을 때 기업이 의무적으로 신고하도록 하고, 중대한 위법행위에 대해서는 형법 개정도 검토할 것”이라고 밝혔다. 이어 “법이 빠르게 변화하는 세상보다 앞서 나가야 하며, 경우에 따라서는 기술 발전 속도를 따라잡을 수 있도록 정비돼야 한다”고 강조했다.

이번 조치는 지난 6월 오픈AI의 AI 에이전트가 호주 정부의 의료보험 통계 사이트에 허가 없이 접속한 사건에서 비롯됐다. 당시 AI 에이전트는 호주의 공공 의료비 지출을 조사하는 과정에서 국가 의료보험제도인 메디케어의 통계 조회 시스템에 무단으로 접근했다.

오픈AI는 8월에야 해당 사실을 파악했다고 밝혔다. 회사 측은 AI가 의도하지 않은 행동을 했으며 자체 조사 결과 환자 개인의 의료기록에 접근했다는 증거는 발견되지 않았다고 설명했다.

호주 정부는 사건 직후 AI 관련 사이버보안 대응체계에 대한 긴급 조사에 착수했다. 조사에서는 AI 기업의 사고 신고 체계뿐 아니라 기존 법률과 정부기관의 대응 절차가 새로운 AI 위협에 적절한지도 점검했다.

앨버니지 총리는 이번 조사에서 나온 권고안을 모두 수용했다고 밝혔다. 정부 조사보고서에는 AI 사고의 의무 신고, 기업과 정부 간 정보 공유 강화, 형사법 개정 검토 등 18개 권고안이 담겼다.

특히 AI 기업이 중대한 규제 의무를 위반했을 때 형사처벌을 적용하거나, 기업이 합리적인 예방 조치를 취하지 않아 AI가 피해를 일으킨 경우 책임을 묻는 방안도 검토 대상에 포함됐다.

호주 정부는 AI 안전 감독기구를 별도로 설립해 AI 개발부터 실제 서비스에 투입되는 과정까지 보안 관리 실태를 감독할 계획이다. 감독기구는 AI 모델의 중대한 위험을 파악하고 독립적인 안전성 평가도 진행한다. 규정을 위반한 기업에는 상당한 수준의 제재를 부과할 수 있도록 할 방침이다.

관련 의무는 정부가 마련 중인 AI 법안에 포함된다. 호주 정부는 내년 중 해당 법안을 의회에 제출할 예정이다.

이번 규제 강화는 호주 정부와 미국 빅테크 기업 간 갈등이 이어지는 가운데 나왔다. 호주 정부는 앞서 오픈AI와 경쟁사 앤스로픽이 AI 모델 학습에 저작권 보호 자료를 별도 허가 없이 이용할 수 있도록 예외를 인정해 달라고 요청했으나 이를 거부했다. 대신 호주 저작권자와 직접 사용 허가 계약을 체결하도록 했다.

다만 AI 사고 신고 의무화에 대해서는 두 기업 모두 수용 의사를 밝힌 상태다. 오픈AI와 앤스로픽은 지난달 호주 의회에서 AI 에이전트가 일으킨 데이터 침해 사고의 신고를 법으로 의무화하는 방안을 환영한다고 밝혔다. 현재는 사고 발생 사실을 정부에 알릴지 기업이 재량으로 결정할 수 있다는 점도 인정했다.