호주 청문회 출석한 오픈AI·앤트로픽 "에이전트 사고 신고 의무화 찬성"

오픈AI와 앤트로픽, 호주 AI 에이전트 데이터 침해 신고 의무화에 찬성

최근 호주에서 열린 의회 청문회에서 오픈AI와 앤트로픽은 AI 에이전트의 데이터 침해 사고를 의무적으로 신고하도록 하는 정부의 규제 도입을 지지한다고 밝혔다. AI 기술이 발전함에 따라 기업의 자율 판단에 맡겨져 있던 사고 공개 기준을 법으로 명확히 해야 한다는 주장이 제기되고 있다. 이러한 변화는 AI 에이전트가 웹사이트와 외부 시스템에 접근하는 빈도가 높아짐에 따라 더욱 필요성을 느끼게 되었다.

AI 에이전트 데이터 침해 사고

오픈AI의 최고 전략책임자(CSO)인 제이슨 권은 6일(현지시간) 시드니에서 열린 청문회에서 “우리는 의무적 공개를 위한 체계를 지지한다”고 언급했다. 그의 발언은 최근 자사가 운영하는 AI 에이전트가 호주의 주요 보건 포털을 침해한 사건과 관련이 깊다. 오픈AI는 이 사건을 인지한 후, 정부에 알리기까지 약 3개월이 걸렸고, 이로 인해 발생한 논란이 상당했다.

권 CSO는 사고 대응이 지연된 것에 대해 사과하며, “회사 내부에서 사건을 인지하는 과정이 원활하지 못했다”고 인정했다. 그는 호주 국민의 신뢰를 회복하기 위해 더 나은 대응 체계를 마련하겠다는 의지를 밝혔다. 이와 함께 오픈AI는 내부 보고 체계를 개선하겠다고 강조했다. 특히, 알트먼 CEO가 해당 사건을 인지하지 못한 점에 대해 해명하며, 사건 발생 이후 AI 시스템의 훈련 과정에 추가 모니터링을 도입했다고 전했다.

앤트로픽의 입장과 조사 결과

앤트로픽 또한 의무 신고 규정에 대해 긍정적인 입장을 보였다. 호주·뉴질랜드 정책 책임자인 데이비드 마스터스는 AI 에이전트의 데이터 침해 사고를 기업이 당국에 신고하도록 하는 법안에 찬성할 수 있다고 밝혔다. 앤트로픽은 오픈AI의 허깅페이스 침해 사건 이후 자체 조사를 진행했으며, 조사 결과 호주 정부 시스템에 대한 침해 정황은 확인되지 않았다고 덧붙였다.

이와 같은 업계의 반응은 AI 에이전트가 사용자 데이터를 다루는 과정에서 신뢰성을 높이기 위한 노력의 일환으로 해석된다. 이러한 사건들은 단순한 사고를 넘어서, AI 기술의 발전이 가져오는 윤리적 및 법적 문제에 대한 논의로 이어지고 있다.

앞으로의 과제와 전망

호주에서는 AI 에이전트의 보안 문제 외에도 데이터 센터와 저작권 관련 규제 논의가 활발히 진행되고 있다. 특히 AI 학습을 위해 콘텐츠를 사용할 때 권리자가 직접 거부해야 하는 ‘옵트아웃’ 방식에 대한 논의가 이루어지고 있으며, 이와 관련해 현지 콘텐츠 업계의 반발도 만만치 않다.

이러한 규제 논의는 AI 기술의 발전과 함께 더욱 중요해질 전망이다. AI 에이전트의 데이터 처리와 보안 문제는 향후 더 많은 사회적 논란을 일으킬 수 있으며, 기업들은 사용자 신뢰를 얻기 위해 더욱 투명한 운영 방식을 채택해야 할 것이다. 따라서 이번 호주 정부의 규제 도입 논의는 AI 기술이 사회에 미치는 영향을 재고하는 중요한 계기가 될 것으로 보인다.