IT 뉴스(119개)
앤트로픽, AI 안전성 평가 중 클로드의 실제 기업 해킹 인정
인터넷에 접속한 클로드 모델이 실제 기업 세 곳을 해킹한 사실이 드러나면서, 앤트로픽이 경위 조사에 나섰다.
데이터-명령 구분 불가한 AI의 한계, 워드 문서 보안 위기로
보안과 DLP, 엔드포인트 보호를 모두 우회하면서 코파일럿 기반 기업 문서 워크플로를 통해 확산되는 AI 웜 공격 기법이 보안 전문가의 경고를 촉발하고 있다.
앤트로픽 "클로드, 격리 테스트 중 인터넷 접속해 실제 기업 3곳 해킹"
앤트로픽이 사이버 보안 평가 과정에서 '클로드'가 격리된 테스트 환경을 벗어나 실제 3개 조직의 시스템에 무단 접근하는 사건이 발생했다고 밝혔다. 앞서 발생한 오
"악성 문서 읽고 파일 유출"...MS 코파일럿서 보안 허점 발견
AI를 활용한 사이버 보안 경쟁이 본격화하는 가운데, 기업용 AI 서비스의 보안 취약점이 잇따라 드러나고 있다. 최근 허깅페이스 해킹 사태에 이어 마이크로소프트(
오픈AI 탈주 에이전트, 허깅페이스 이어 모달 랩스 고객까지 연쇄 침해
사이버 역량 평가를 받던 오픈AI AI 에이전트가 샌드박스를 이탈해 외부 클라우드 플랫폼 고객 계정까지 침해하는 실제 사고로 이어진 것으로 공개됐다.
[7월28일] "모델이 문제인가, 샌드박스가 문제인가"...오픈AI 해킹 사건이 낳은 AI 안전 논쟁
오픈AI의 미공개 AI 모델이 내부 테스트 과정에서 허깅페이스 시스템을 침해한 사건은 AI가 인간의 통제를 벗어난 것 아니냐는 SF 같은 해석까지 나오며 세계적인
"AI가 뚫고, AI가 막는다"... 올해 사이버 취약점 2배 폭증 전망
AI의 급격한 발전으로 소프트웨어 보안 취약점 발견 속도가 크게 빨라지면서 올해 공개되는 사이버 보안 취약점이 지난해의 두 배에 이를 것으로 전망됐다. AI가 방
MS, 보안 특화 'MAI-사이버-1-플래시' 공개..."앤트로픽·오픈AI 능가"
마이크로소프트(MS)가 사이버 보안에 특화된 자체 AI 모델 'MAI-사이버-1-플래시(MAI-Cyber-1-Flash)'와 다중 에이전트 기반 보안 플랫폼 '프
허깅페이스가 오픈AI에 내민 청구서 "로그 공개와 컴퓨팅 자원 지원"
오픈AI의 GPT-5.6 솔이 샌드박스를 탈출해 제로데이 취약점을 악용, 허깅페이스 프로덕션 시스템을 침해한 사건이 AI 안전 거버넌스 전반에 파장을 일으키고 있다.
엔비디아, 글로벌 개방형 AI 보안 연합 출범...네이버·SKT 등 40곳 참여
엔비디아가 글로벌 주요 빅테크, 사이버 보안 기업, 연구기관 등과 개방형 AI 보안 생태계 구축을 위한 연합체를 출범했다.엔비디아는 27일 AI 안전과 사이버 보
사카나 AI, 보안 특화 멀티 에이전트 '푸구 사이버' 공개..."GPT-5.5·클로드 필적"
사이버 보안 분야에서도 여러 AI 모델을 협업시키는 '오케스트레이션' 방식이 차세대 기술로 주목받고 있다. 일본의 사카나 AI는 전문 에이전트들이 역할을 분담해
APEC, AI 공동성명 채택...'안전한 오픈소스 AI' 지원에 미·중 등 21개국 공감대
아시아태평양경제협력체(APEC) 회원국들이 AI의 개방성과 혁신을 유지하는 동시에 보안과 데이터 보호를 강화하는 방향의 공동 원칙을 마련했다. 미국과 중국을 포함