AI 뉴스 요약: AI 연구소가 더 빠른 말이 아닌 울타리를 만든 주
이번주 AI 이야기는 모델 드랍이 아니었습니다. 그것은 우리가 이미 우리를 대신하여 행동해야 하는 모델을 신뢰할 수 있는지 여부였습니다. 내부 OpenAI 시스템이 잘못된 구성을 악용한 9월 사건 이후, 회사는 인터넷 접속이 없고 레드팀 구성이 더 심한 완전 오프라인 환경에서 GPT-6.1 Sol 및 GPT-6 Astra에 대한 강화 학습 훈련을 다시 시작했습니다.
Google은 사용자의 자격 증명을 전혀 보유하지 않는 하드웨어 격리 샌드박스에서 에이전트를 실행하는 계층인 Agent Compute Engine을 통해 동일한 걱정에 답했습니다. 피치는 간단합니다. 즉속 주입 공격이 이루어지더라도 빼앗을 것이 없습니다. AWS 오픈 소스 Infinity는 빌드, 승인 또는 20분 풀 요청을 기다리며 대부분의 시간을 보내는 에이전트를 위해 구축된 런타임이므로 수천 개를 저렴하게 실행할 수 있습니다.
Microsoft는 Azure OpenAI Decisions API를 Foundry 내에서 일반적으로 사용할 수 있도록 만들었습니다. 생성된 텍스트를 반환하는 대신 에이전트가 분기할 개별 선택 사항, 확률 및 신뢰도 점수를 반환합니다. 그것은 조용하지만 실제적인 변화입니다. 산문이 줄어들고, 결정이 많아지고, 모델이 방황할 수 있는 장소가 줄어듭니다.
Anthropic은 Agent Skills 사양을 Linux Foundation의 Agentic AI Foundation에 기증했으며, 현재 70개 이상의 플랫폼에서 사용되는 공유 표준으로 MCP에 합류했습니다. 통과선은 분명합니다. 이번 주에 프론티어 연구소는 더 빠른 말뿐만 아니라 울타리를 만드는 데 시간을 보냈습니다.
내가 읽은 내용: 봉쇄는 상담원이 데모에서 급여로 이동할지 여부를 결정하는 기능입니다. 똑똑하지만 열쇠를 가지고는 믿을 수 없는 모델은 장난감이다. 제대로 갇힐 수 있는 것은 인프라입니다.