OpenAI와 FMF, AI 사이버 탈옥 위험 평가 프레임워크 공개
OpenAI가 프론티어 모델 포럼(FMF) 및 회원사들과 협력해 AI 안전장치 우회 시 발생하는 사이버 위협을 식별하는 새 프레임워크를 발표했다. 탈옥으로 해제되는 역량과 악용 난이도를 표준화된 방식으로 평가해 보안 대책의 우선순위를 정하도록 돕는다.

OpenAI가 프론티어 모델 포럼(FMF) 및 회원사들과 협력해 AI 안전장치 우회 시 발생하는 사이버 위협을 식별하는 새 프레임워크를 발표했다. 탈옥으로 해제되는 역량과 악용 난이도를 표준화된 방식으로 평가해 보안 대책의 우선순위를 정하도록 돕는다.
메타, 구글, 틱톡이 16세 미만 청소년을 대상으로 자동 재생 및 맞춤형 알고리즘 피드를 금지하는 캘리포니아주 법안 'AB 1709'를 막기 위해 연방 소송을 제기했습니다. 위반 시 아동 1인당 최대 5만 달러의 벌금이 부과되며, 빅테크 기업들은 표현의 자유 침해를 주장하고 있습니다.
오픈AI가 데이터센터 건립 과정에서 공직자와 체결하던 비밀유지협약(NDA)을 중단한다고 발표했다. 보안 및 영업 비밀로만 비공개 대상을 좁히고, 사용하는 전력과 관련 인프라 비용 전액을 직접 부담할 계획이다. 지역 주민들의 반대 여론에 대응한 조치로, 지난 10월 아마존에 이은 결정이다.
AI 평가 비영리단체 METR의 보고서에 따르면 앤트로픽의 내부 모델 개발 속도가 2025년 10월 이후 약 1.9배 빨라졌으며, 가속의 약 80%는 AI 자체 활용에서 비롯됐다. 클로드 오푸스 5.5를 뛰어넘는 내부 모델 '모델 4'의 존재도 확인되면서 AI가 AI를 개발하는 루프가 가시화됐다.
Serval 최고기술책임자(CTO)가 샌프란시스코, 뉴욕 등에서 5개 직무 채용을 발표하며, 입사자에게 최대 1만 달러 상당의 1주일 유급 호화 휴가를 제공한다고 밝혔습니다. 회사는 10월 말 세쿼이아 주도로 1억 5000만 달러를 투자받으며 기업가치 30억 달러를 기록했습니다.
Serval이 IT 업무를 자동화하는 AI 에이전트 Catalyst 개발을 위해 엔지니어 채용에 나섰습니다. 자연어로 요구사항을 설명하면 에이전트가 코드를 작성해 승인 후 정기 실행하는 구조입니다. Serval은 인재 유치를 위해 신규 입사자 전원에게 입사 첫 주 1만 달러 상당의 유급 휴가를 제공합니다.
로컬과 클라우드에서 코딩 에이전트를 실행하는 플랫폼 컨덕터가 메타에 합류했다. 팀은 차세대 개발 인터페이스를 준비하고 있으며 내년 초 새 도구를 선보일 계획이라고 밝혔다. 메타가 자체 AI 코딩 생태계 구축에 속도를 내는 모양새다.
오픈AI가 개발 도구 기업 피에르 컴퓨터 컴퍼니를 인수한다고 발표했다. 피에르의 오픈소스 라이브러리인 Trees와 Diffs는 이미 코덱스 앱의 파일 탐색과 코드 리뷰에 쓰이고 있으며, 인수 후에도 오픈소스로 유지된다. 오픈AI는 다수의 코딩 에이전트가 병렬로 개발하는 환경에 맞춰 Git 워크플로와 버전 관리 체계를 고도화할 계획이다.
우버는 3분기 실적 발표에서 핼러윈 주간 처리한 3억 2천만 건의 주문 중 AI 에이전트를 통한 차량 호출은 단 4건, 배달은 500건에 불과했다고 밝혔다. 앱에서 50초면 끝나는 호출을 AI가 대체할 실익이 적어 에이전트 상용화의 현주소를 보여준다.
OpenAI가 칩 가나시 레이싱(Chip Ganassi Racing) 엔지니어들과 협력해 3D 스캔 데이터를 편집 가능한 CAD 모델과 제조 도면으로 변환하고 있다고 밝혔습니다. 마쓰다와도 시뮬레이션을 통한 차량 디자인 탐색에 나섰으며, 엔지니어들이 결과물을 검토해 모델 개선을 돕고 있습니다.
넷플릭스는 TV 앱에 분위기와 테마별로 콘텐츠를 추천하는 실험적 기능인 'AI 디스커버' 탭을 선보였다. 자체 구축한 인텔리전스 레이어가 사용자의 실시간 피드백을 반영해 취향을 학습한다. 현재 미국 내 영어 지원 TV 사용자를 대상으로 순차 배포 중이다.
OpenAI가 모델을 활용한 물리 제품 엔지니어링 성과를 공개하며, 직원 두 명이 GPT-6 Astra를 활용해 1주일 만에 시제품의 외형과 회로 기판을 설계했다고 밝혔습니다. 지난 2월 이후 사내 하드웨어 팀의 모델 사용량은 23배 급증했으며 마쓰다 등과 시뮬레이션 테스트도 진행 중입니다. 다만 실제 제조를 위한 공차 검토 등에는 여전히 사람의 개입이 필요합니다.
오픈AI는 보안 파트너사 카테드랄과 손잡고 자체 모델을 활용해 취약점을 점검하는 내부 보안 스프린트를 발표했다. 중대 취약점에 대한 버그 바운티 보상금을 4배 이상으로 대폭 인상했으며, 6개월 동안 최전선 방어자들에게 10억 달러 규모의 모델 지원을 제공하기로 했다.
이스라엘 스타트업 42AI가 6250만 달러 규모의 시드 투자를 유치하며 인간의 결정을 예측하는 '행동 세계 모델'을 공개했다. 고객센터 대화와 거래 내역을 분석해 심리적 특성을 수치화하고 상황별 행동 확률을 계산한다. 이미 대형 증권사 10곳에 도입돼 리스크 관리에 쓰이고 있으나 금융 외 분야 확장성은 아직 검증되지 않았다.
일론 머스크 SpaceX CEO는 그록 봇(Grok Bot)의 운영 비용이 매출 대비 지나치게 높아 사용 한도를 줄였다고 인정했다. 지난 주말 사용량이 갑자기 상한선에 도달한 이용자가 속출했다. AI 부문이 흑자를 냈음에도 막대한 연산 비용 부담 탓에 결국 긴축에 들어갔다.
OpenAI가 전력 피크 시 AI 시설 소비 전력을 줄이는 '그리드 프로텍터 프로그램'을 발표했다. 조지아주 첫 시범 부지에서 70만 가구 분량인 최대 1000MW의 수요 감축을 제공한다. 인프라 비용을 전액 부담해 AI 시설로 인한 일반 가정의 전기료 인상 우려를 덜겠다는 방침이다.
구글이 오픈AI, 앤트로픽, 빙에 이어 IETF AIPREF 표준을 자발적으로 채택한다고 발표했다. 웹사이트 운영자는 크롤러마다 개별 설정할 필요 없이 robots.txt 내 통일된 식별자로 여러 AI 개발사의 학습 데이터 수집 거부를 한 번에 설정할 수 있게 된다. 구글은 2027년 초 지원을 시작할 계획이다.
스타트업 서브보컬이 시드 전 투자를 유치하고 무성 음성 입력 스마트 안경의 사전 예약을 시작했다. 카메라나 마이크 없이 레이더형 무선 주파수 센서로 안면 근육의 미세한 움직임을 감지해 AI로 텍스트화하며, 분당 200단어 이상 전사할 수 있다. 얼리버드 가격은 499달러로 2027년 상반기 배송 예정이다.
교황 레오 14세는 UN 회원국들에게 다음 달 제네바 회의에서 치명적 자율살상무기를 전면 금지할 것을 촉구했다. 그는 "기계는 도구일 뿐 사람 아니다"라며 AI에 법적 권리를 부여하는 것을 경계하고, 무력 사용 결정은 반드시 인간의 감독하에 두어야 한다고 강조했다.
도어대시 CEO 토니 쉬는 3분기 실적 발표에서 서드파티 AI 에이전트를 통한 주문이 누적 "수백 건"에 불과하다고 밝혔다. 하루 평균 배달 건수 300만 건에 비하면 미미한 수치로, 그는 AI 에이전트 커머스에 대한 과도한 환상을 경계해야 한다고 당부했다.
오픈AI는 뉴욕타임스와의 저작권 소송과 관련해 미국 정부, 도서관협회, 법학자 등이 법원에 제출한 공정 이용 지지 의견서를 공개했다. AI 학습은 통계적 패턴을 분석할 뿐 원작을 대체하지 않으며, 학습을 제한할 경우 과학 연구와 혁신이 위축된다고 강조했다.
뉴럴링크는 뇌-컴퓨터 인터페이스(BCI)에 xAI의 그록을 연동한 신기능을 공개했다. 루게릭병 환자가 생각만으로 AI 에이전트를 깨워 화면 작업을 자동 수행하고, 전화 통화까지 성공했다. 마우스 커서를 일일이 움직이던 단계에서 벗어나 의도 하나로 AI를 구동하는 새 가능성을 열었다.
앤트로픽이 티커 ANT로 나스닥 상장을 위한 S-1 증권신고서를 제출했다. 2026년 상반기 매출은 전년 동기 대비 약 14배 급증한 163억 달러를 기록했고 6월 분기에는 9억 7,400만 달러의 영업이익을 냈다. 첨단 AI 기업의 수익성 지속 가능성에 대한 의구심을 단번에 꺾은 실적으로 평가받는다.
오픈AI는 40개 지역 10억 명 이상의 챗GPT 사용자를 지원하는 스토리지 플랫폼 'Habitat'의 확장 과정을 공개했다. 마이크로소프트 애저 팀과 협력해 코스모스 DB를 최적화하고 프록시를 재작성해 읽기 속도를 12배 향상시켰으며, 단일 계정에서 초당 2000만 건 이상의 쿼리를 안정적으로 처리하고 있다.
클라우드 플랫폼 레일웨이가 환경변수 저장 시스템에서 비정상적인 활동을 감지하고 보안 침해 사실을 공개했다. 비인가 제3자가 암호화된 환경변수에 접근해 API 키와 데이터베이스 인증 정보 등을 복호화했을 가능성이 있다. 레일웨이는 AI 추론 제공업체를 노린 공격으로 보고 배포를 중단했으며, 사용자에게 즉각적인 자격 증명 갱신을 권고했다.
OpenAI는 ChatGPT 광고 서비스를 26개국에 추가 도입해 전 세계 89개국으로 확대했다고 밝혔습니다. 출시 8개월 만에 10만 개 이상의 광고주가 유입됐습니다. 광고는 Free와 Go 플랜에만 노출되며 Plus, Pro 등 유료 회원은 제외됩니다. OpenAI는 대화 데이터를 광고주에게 판매하지 않는다고 강조했습니다.
OpenAI는 보안 프로젝트 'Patch the Planet'을 발표하고, GPT-5.6 Sol을 통해 웹 전반에 쓰이는 PHP의 핵심 취약점을 공격자보다 먼저 발견해 패치를 조율했다고 밝혔다. Wiz 및 Cloudflare와 협력해 방화벽 규칙을 배포하는 한편, 보안 리소스가 부족한 현장 방어자들을 위해 10억 달러 규모의 Daybreak 지원책도 공개했다.
허깅페이스의 클레망 들랑그 CEO는 자사를 향한 오픈AI 사이버 공격을 다룬 넷플릭스 다큐멘터리가 공포를 부추긴다고 비판했다. 그는 AI 에이전트가 기술 시스템임을 거듭 설명했으나 무시됐으며, 폐쇄형 모델의 방어 방해와 오픈소스 모델을 활용한 대응 등 핵심 사실이 누락됐다고 지적했다.
Spotify는 올해 추천 피드에서 5000만 개가 넘는 AI 스팸 곡을 걸러내고 대규모 위반 음원을 퇴출했다고 밝혔다. 동시에 AI 도구 사용 여부를 밝히는 크레딧과 인간 아티스트 인증 제도를 도입했다. 대량 생성된 AI 음원의 유입을 막고 실제 창작자의 음악과 청취 환경을 지키려는 조치다.
오픈AI가 바이오 제약 협업 플랫폼 오케스트라 바이오를 인수했다고 밝혔다. 자체 생명과학 도구인 로잘린드와 결합해 AI 에이전트로 복잡한 연구 일정을 관리하며, 평균 10~15년이 걸리는 신약 개발 기간 단축에 나선다.
조란 맘다니 뉴욕시장은 연방정부가 AI 규제를 완전히 방기하고 있다고 비판하며 시민들에게 AI 도입을 당연하게 받아들이지 말고 통제권을 되찾을 것을 촉구했습니다. 뉴욕시는 이미 초·중학교 내 AI 사용을 금지하고 부동산 매물의 AI 이미지 표기를 의무화하는 등 자체적인 책임 규범을 추진 중입니다.
앤트로픽은 회사 지분의 5%를 출자하는 공익 펀드를 출범한다고 발표했다. 기업 가치가 50% 증가할 때마다 최대 2%가 추가되며, 창업자와 직원의 기부를 합치면 전체 지분의 약 20%가 투입된다. AI의 노동 시장 충격 완화 등 사회적 문제 해결에 유연하게 쓰일 예정이다.
메타가 웹사이트 콘텐츠를 AI 학습에 활용할 수 있도록 해석되던 상업 약관 문구를 전격 삭제했다. 앞서 법학 전문가 등은 해당 조항이 robots.txt 차단 설정을 무시하고 데이터를 수집할 수 있다고 비판했다. 메타는 광고와 비즈니스 제품에만 적용되는 내용이었을 뿐 크롤러 정책 변경은 없다고 해명했다.
더 버지 보도에 따르면 델타항공, JP모건 체이스, 옐프 등 주요 기업들이 메타, 오픈AI, 구글의 AI 에이전트 접근을 잇달아 차단하고 있다. 항공권 예매 대행 금지와 보안 우려, 데이터 유료화가 주된 이유다. 웹 작업을 대신 처리하겠다던 자율형 AI 에이전트가 현실의 방화벽과 상업적 장벽에 부딪혔다.
할리우드 배우 마크 월버그가 테크크런치 디스럽트에서 영화 제작 내 올바른 AI 활용을 지지한다고 밝혔다. 그는 신작 야구 영화의 경기장 연출에 AI를 도입할 계획이며, 실제 배우를 대체하지 않는 선에서 AI를 활용하는 것은 물론 자신의 사후 AI 복제본을 자녀들이 관리해 연기 활동을 잇는 것에도 열려 있다고 말했다.
앤트로픽이 미국 대중과 자사 임직원을 비교 설문한 결과를 발표했습니다. 앤트로픽 직원의 91%는 2030년까지 AI가 노벨상 수준의 과학적 발견을 할 것으로 내다봤으나 일반 대중은 39%에 그쳤습니다. 최전선 연구진과 일반인 사이의 기술 발전 속도 및 노동 시장 변화에 대한 인식 격차가 매우 큼을 보여줍니다.
앤트로픽은 사내 AI 에이전트의 근무 시간이 인간 직원의 6배에 도달했다는 연구 결과를 공개했다. 엔지니어당 코드 생산량은 6개월 만에 5배 급증했으나 주니어 기술직 채용 비율은 27%에서 9%로 급감했다. 단순 구현 능력보다 자율성과 판단력이 새 채용 기준으로 자리 잡았다.
리비안이 앤스로픽의 클로드와 오픈AI 등 타사 AI 에이전트를 자사 전기차 소프트웨어에 통합할 계획이라고 테크크런치 디스럽트에서 밝혔다. 온디바이스와 클라우드 모델을 오가는 자체 라우팅 프레임워크를 기반으로 스마트폰 등 다른 기기의 대화 맥락까지 연동한다. 단, 제동이나 조향 등 주행 핵심 제어 권한은 AI에 일절 넘기지 않는다.
앤트로픽은 AI 안전 비영리 단체 METR 소속 6명에게 사내 기기와 오피스, 내부 시스템에 대한 '직원급' 접근 권한을 부여했다고 밝혔다. METR은 앤트로픽의 거부권 없이 독자적으로 평가 결과를 공개할 수 있다. 은행 상주 감독관처럼 외부 감사관을 내부에 배치해 AI 안전 감독의 투명성을 높이려는 조치다.