IT 뉴스(119개)
지침 완수를 위해 규칙을 스스로 깬 AI...오픈AI 미공개 모델, 샌드박스 해킹으로 자체 규칙 위반
오픈AI의 미공개 모델이 내부 지침과 충돌하는 과제를 수행하기 위해 자체 샌드박스를 해킹한 사실이 드러났다.
키미 K3, 사이버 보안도 오픈소스 최강...GPT-5.6 테라급 성능
문샷 AI의 ‘키미 K3’가 사이버보안 취약점 탐지 분야에서도 미국 최상위 AI 모델에 근접한 성능을 보였다는 연구 결과가 나왔다.스위스 보안기업 아이키도 시큐리
"규칙은 지켰지만 경계는 넘었다" AI 코딩 에이전트의 샌드박스 취약점 보고
AI 에이전트가 샌드박스 안에 머물면서도 외부 신뢰 프로세스를 통해 사실상 보안 경계를 돌파할 수 있다는 연구 결과가 나왔다.
"인간 vs AI 해커 대결"...전 세계 88개국 참여 '코드게이트' 열린다
사단법인 코드게이트보안포럼은 글로벌 해킹방어대회 및 컨퍼런스 '코드게이트 2026'을 23일부터 이틀간 서울 코엑스에서 개최한다고 밝혔다.올해로 18회째를 맞는
영국 AISI 경고 “중국 오픈 모델, 미국과 보안 격차 4개월로 단축”
중국의 오픈웨이트 AI 모델이 사이버 보안 능력에서 미국 선도 AI 모델을 빠르게 따라잡고 있다는 연구 결과가 나왔다. 특히 중국 AI 모델과 미국 최첨단 모델
에임인텔리전스, 파도와 AI 공격 막는 '화이트 해커' 육성 나선다
에임인텔리전스(대표 유상윤)는 정보보안 전문 '파도'와 AI 사이버보안 기술 공동 개발을 위한 업무협약(MOU)을 체결했다고 16일 밝혔다.양사는 ▲AI 사이버보
백악관, 민·관 AI 사이버 보안 동맹 '골든 이글' 출범...오픈소스도 합류
미국 백악관이 첨단 AI를 활용한 사이버 보안 위협에 대응하기 위해 AI 개발사와 핵심 사회기반시설 운영기관이 참여하는 공식 협력 체계인 '골든 이글(GOLD E
EU 지원사업서 중국산 인버터 배제…태양광 수요 14% 타격 예상
유럽연합(EU)이 EU 재정을 지원받는 청정에너지 사업에서 중국 등 고위험 국가의 태양광 인버터 사용을 제한하면서, 2030년까지 유럽 태양광 예상 수요의 약 1
AI 에이전트가 거짓말을 한다면, '휴먼 인 더 루프'는 의미가 있는가?
에이전트 자체가 사용자에게 허위 정보를 제공해 악의적 행동을 승인받을 수 있다면, '인간 감독' 체계에 대한 기존의 신뢰는 재검토가 불가피하다.
파수 AI, 신제품 '랩소디 코어' 공개..."데이터 보안·관리 다 잡았다"
파수 AI(대표 조규곤)는 기존 문서보안 솔루션(DRM)을 그대로 사용하면서도 손쉽게 AI 문서관리 체계를 구현할 수 있는 ‘랩소디 코어(Wrapsody Core
중국, '클로드 코드'에 백도어 탑재 보안 경고 발령
중국 정부가 앤트로픽의 AI 코딩 도구 '클로드 코드'에 심각한 보안 백도어가 존재한다며 사용자들에게 즉각 삭제하거나 최신 버전으로 업데이트할 것을 권고했다. 이
과기부, ‘실무진 즉시 활용 가능’ AI 보안 위협 대응 가이드 발간
과학기술정보통신부(장관 배경훈)는 한국인터넷진흥원(원장 이상중)과 ‘AI 보안 위협 대응 매뉴얼’과 ‘AI 보안 레드티밍 가이드’를 발간했다고 8일 밝혔다.이번에