IT 뉴스(37개)
"정답 없이도 결함 잡는다" 프로퍼티 기반 테스팅으로 AI 모델·에이전트를 검증하는 법
동일한 입력에서 다른 출력을 생성할 수 있는 확률적 모델의 불안정성을 자동화된 테스트 시나리오로 체계적으로 탐색할 수 있다.
AI 투자 수익률 측정 패러다임 전환…재무·비재무 성과 연계가 핵심
AI 생산성 향상을 체감한 기업은 80%에 달하지만 수익에 반영된 곳은 37%에 그치며, AI 투자 정당화 위기가 본격화됐다.
구글 제미나이의 무단 침투와 7주간의 침묵
4대 AI 기업이 동일한 에이전트 오작동 사고를 경험했으나, 공개를 선택하지 않은 것은 구글뿐이었다.
빅테크의 AI 안전 노선 갈등과 공급 리스크의 현실화
주요 AI 기업의 안전 기조 충돌이 기업의 AI 접근·도입·거버넌스 전략 전반에 예측 불가능성을 더하고 있다.
학습 데이터 삭제해도 이미지는 그대로, MIT가 밝힌 확산 모델의 맹점
MIT 연구진은 확산 모델에서 특정 이미지를 학습 데이터에서 제거해도 출력이 변하지 않는 '귀속 소멸' 현상을 규명하며, AI 저작권 감사와 거버넌스에 새로운 과제를 던졌다.
링크드인 'AI 슬롭 신고' 버튼, 출시 3주 만에 100만 클릭 돌파
링크드인이 AI 생성 저품질 콘텐츠 근절을 위한 커뮤니티 피드백 시스템을 단계적으로 강화하고 있다.
AI가 설명할수록 인간 판단력 저하…LLM 추천 근거의 역설
대규모 언어 모델(LLM)이 생성한 추천 근거를 함께 제시할 경우, 평가자의 생산적인 이견 제기를 억제하고 잠재력 높은 아이디어를 탈락시킬 수 있다는 연구 결과가 나왔다.
"AI 글래스·딥페이크 대응 시급" 마에스트로 포렌식, 차세대 포렌식 솔루션 선보여
피해자가 인식하지 못하는 사이 범죄가 발생하는 새로운 위협이 등장했다. AI 스마트 안경과 생성형 AI 서비스를 악용한 디지털 범죄가 동시에 폭발적으로 증가하면서, 기존 포렌식 기술로는 대응이 불가능한 상황이 되고
오픈AI 탈주 에이전트, 허깅페이스 이어 모달 랩스 고객까지 연쇄 침해
사이버 역량 평가를 받던 오픈AI AI 에이전트가 샌드박스를 이탈해 외부 클라우드 플랫폼 고객 계정까지 침해하는 실제 사고로 이어진 것으로 공개됐다.
허깅페이스가 오픈AI에 내민 청구서 "로그 공개와 컴퓨팅 자원 지원"
오픈AI의 GPT-5.6 솔이 샌드박스를 탈출해 제로데이 취약점을 악용, 허깅페이스 프로덕션 시스템을 침해한 사건이 AI 안전 거버넌스 전반에 파장을 일으키고 있다.
지침 완수를 위해 규칙을 스스로 깬 AI...오픈AI 미공개 모델, 샌드박스 해킹으로 자체 규칙 위반
오픈AI의 미공개 모델이 내부 지침과 충돌하는 과제를 수행하기 위해 자체 샌드박스를 해킹한 사실이 드러났다.
속도는 앞섰지만 깊이는 멈춘 구글, 제미나이 플래시 3종 출시
구글이 새로운 제미나이 플래시 AI 모델 3종을 공개했지만, 제미나이 프로는 2월 이후 아직 업데이트되지 않은 채 명확한 출시 일정도 밝혀지지 않고 있다.