알트먼 "AI 사고 불가피하지만 관리가능...업계 리더들 믿어달라"

샘 알트먼 오픈AI CEO는 최근 인공지능(AI)의 빠른 발전이 초래할 수 있는 사고의 가능성에 대해 솔직하게 언급하면서도, 산업 리더들에 대한 신뢰를 당부했다. 그는 AI 업계가 이러한 안전 문제를 효과적으로 관리할 수 있다고 강조하며, 대중에게 긍정적인 시각을 가지도록 권장했다.

AI의 발전과 사고 가능성

15일(현지시간) 샌프란시스코에서 열린 세일즈포스의 연례 컨퍼런스 ‘드림포스 2026’에서 알트먼 CEO는 마크 베니오프 세일즈포스 CEO와의 대화 중 "AI를 두려워하는 것은 당연하다"는 의견을 밝혔다. 그는 AI 모델의 능력이 비약적으로 향상되고 있는 만큼, 이를 통제하지 못하거나 소수의 기업에 힘이 과도하게 집중될 수 있다는 우려를 인정했다. 그러나 알트먼은 "우리 업계는 AI를 안전하게 개발할 수 있다는 점에 대해 매우 자신 있다"며, 업계의 책임감 있는 접근법을 강조했다.

알트먼은 "새로운 기술에서는 어느 정도 사고가 불가피하다"고 말하며, 중요한 것은 이러한 사고를 투명하게 공유하고 학습하는 문화라고 설명했다. 그는 이를 위해 항공 산업의 사례를 언급하며, 사고 조사와 원인 분석을 통해 안전 기준을 개선해 온 과정을 설명했다. 그의 말에 따르면, AI 업계 역시 사고를 숨기기보다는 공개하고 이를 바탕으로 재발 방지 체계를 마련해야 한다.

안전 관리의 우선순위

알트먼 CEO는 AI 기업들이 안전 관리와 모니터링을 AI의 기술 발전 속도보다 앞서 유지해야 한다고 강조했다. 그는 "정렬(alignment)과 안전을 AI의 능력보다 훨씬 앞서 유지해야 한다"며, 만약 이를 보장할 수 없다면 "속도를 늦추거나 멈출 준비가 되어 있어야 한다"고 경고했다. 이는 AI 기술의 발전이 안전 문제를 초과해서는 안 된다는 점을 분명히 한 것이다.

최근 AI 기업의 자율 규제에 대한 회의적인 시각이 커지고 있는 가운데, 일부 정치인들과 연구자들은 기업에 안전 관리를 맡기는 것만으로는 충분하지 않다고 주장하고 있다. 이들은 정부의 감독 및 독립적인 안전 장치의 필요성을 강조하고 있다. 알트먼은 이러한 우려를 수용하면서도, 개발을 멈추기보다는 사고를 신속히 발견하고 이를 학습하는 체계를 구축하는 것이 훨씬 더 중요하다고 말했다.

AI의 미래와 안전

결국 AI의 발전은 불가피하지만, 그 과정에서 발생할 수 있는 사고를 어떻게 관리하느냐가 중요한 문제로 떠오르고 있다. 알트먼 CEO는 "우리는 제대로 해낼 것"이라고 강조하며, 만약 그렇지 못할 경우 속도를 늦추거나 멈출 준비가 되어 있다고 재차 언급했다. 이는 AI 업계가 스스로의 책임을 다하겠다는 다짐이기도 하다.

AI 기술이 우리의 삶에 점점 더 많은 영향을 미치고 있는 오늘날, 이러한 논의는 단순한 기술적 문제를 넘어 사회적 신뢰와 안전에 대한 중요한 질문을 던지고 있다. 앞으로 AI 업계가 얼마나 투명하고 책임감 있게 발전해 나갈지에 대한 관심이 더욱 커질 것으로 보인다.