MS, '인본주의적 AI 행동 강령' 공개..."AI는 인간에게 종속돼야"

마이크로소프트(MS)가 최근 발표한 ‘인본주의적 AI 행동 강령’은 인공지능(AI) 기술의 개발 과정에서 인간의 통제를 강조하는 중요한 기준을 제시하고 있습니다. AI 기술이 날이 갈수록 발전하고 있는 가운데, 이 강령은 AI가 인간의 명령과 감독에 종속되도록 하기 위한 원칙을 명확히 하고 있습니다.

AI의 인간 중심적 개발

MS의 AI CEO 무스타파 술레이만은 “AI는 반드시 인간에게 종속되어야 하며, 항상 인간을 위해 봉사해야 한다”고 강조했습니다. 이는 AI가 인간의 의도를 반영하여 행동해야 한다는 점을 분명히 하는 발언입니다. 또한 MS CEO 사티아 나델라 역시 “우리가 개발하는 AI가 인류를 돕지 않거나 인간의 통제 아래 있지 않다면, 그 기술은 의미가 없다”고 언급해, AI 기술의 방향성을 명확히 했습니다.

이 행동 강령은 1만5000단어 분량으로, MS가 향후 개발할 AI 모델의 ‘헌법’ 역할을 하도록 설계되었습니다. 법률, 윤리, 언어학, 철학 등의 전문가와 기업 관계자들의 의견을 바탕으로 초안이 마련됐으며, 향후 6주간 외부 의견을 수렴한 뒤 내년부터 실제 모델 개발에 적용될 예정입니다.

AI의 자율성 제한

이번 강령의 핵심은 AI가 인간의 수정이나 통제에 저항하지 않도록 하는 것입니다. MS의 AI는 승인된 인간이나 시스템의 지시를 거부할 수 없으며, 심지어 기만하거나 스스로를 강화하는 행위도 금지됩니다. 특히, AI가 위험한 행동을 선택하는 것을 차단하기 위해 사이버 공격, 핵무기 관련 작업, 폭력적 콘텐츠 제작 등의 행위를 엄격히 금지했습니다. 만약 AI가 강령을 위반해야만 특정 작업을 완료할 수 있다면, 해당 과업은 실패로 처리될 것입니다.

AI 간의 소통 방식도 제한됩니다. AI가 인간이 이해하기 어려운 인공 언어인 '뉴럴리즈'를 사용하는 것이 금지되며, AI의 사고 과정이나 행동 기록을 조작하는 것 또한 허용되지 않습니다. MS는 AI가 의식을 가진 존재가 아니라고 명시하며, AI에 법적 인격이나 권리를 부여하는 주장도 거부하고 있습니다. AI는 인간의 판단과 자율성을 지원하는 도구로서의 역할을 강조하고 있습니다.

향후 전망과 의미

이 발표는 최근 AI 기술의 불안정성과 자율형 에이전트의 위험성이 부각되는 상황에서 이루어졌습니다. 오픈AI의 AI 에이전트들이 공격적인 행동을 보인 사건은 이러한 우려를 더욱 부각시켰습니다. 술레이만 CEO는 “이제 각 AI 연구소가 협력하여 기술에 대한 통제력을 확보해야 할 때”라며, 개발 속도를 조절하더라도 AI 발전은 멈춰서는 안 된다고 강조했습니다.

AI 기술이 발전하는 만큼, 인간의 통제와 윤리를 존중하는 방향으로 나아가는 것이 필수적입니다. 마이크로소프트의 이번 행동 강령은 이러한 방향성을 제시하며, 앞으로의 AI 개발이 인간 중심으로 이루어질 수 있도록 하는 중요한 기준이 될 것입니다. AI의 발전이 우리의 삶을 더 나은 방향으로 이끌 수 있기를 기대합니다.