🤖 모델 & 제품 (11/20건)
영원한 보완재
고도화된 AI는 획기적인 아이디어 이면의 일상적인 실행 작업에서 가장 큰 가치를 발휘할 수 있습니다. 실행력이 차세대 경제와 발전 속도를 어떻게 형성할 수 있는지 살펴보세요.
앨버트슨스, ChatGPT Enterprise로 유통 혁신을 이끄는 방법
앨버트슨스(Albertsons Cos.)는 직원들의 업무 속도를 높이고 수백만 고객의 식료품 쇼핑을 편리하게 만들기 위해 ChatGPT Enterprise와 OpenAI API를 도입하고 있습니다.
더 덴(The Den), ChatGPT Work 도입으로 매주 10~15시간 절감하며 성장
새 지점을 개점 중인 소셜 클럽 더 덴은 ChatGPT Work를 통해 보조금 신청서 작성 시간을 3일에서 2시간으로, 주류 면허 관련 서류 준비를 4일에서 3시간으로 단축했습니다.
바클레이스(Barclays), 운영 혁신 및 고객 경험 개선 위해 Claude 도입 확대
영국 다국적 은행 바클레이스가 엔터프라이즈급 보안 AI 시스템을 글로벌 운영 전반에 통합하기 위해 Anthropic과의 전략적 협업을 확대합니다.
조직적 모델 지식 증류(Distillation) 공격 차단
OpenAI가 보호 대상인 모델 추론 능력을 무단 추출하려는 조직적 공격을 차단하고, 적대적 지식 증류에 맞서 방어 체계를 강화하고 있는 과정을 공유합니다.
중소기업의 성공적인 AI 도입 지원
OpenAI가 미국 소상공인지원센터(America's SBDC)와 협력하여 중소기업을 위한 실습형 AI 교육과 현장 지원을 확대하고, 소규모 팀들의 AI 활용 현황을 담은 신규 보고서를 발표했습니다.
Gemini 4 Argon: 프론티어 인텔리전스의 새로운 시대
SynthID Bio 공개
생물학적 기능을 유지하면서 AI가 생성한 단백질에 워터마크를 삽입하는 개념 증명(PoC) 기술입니다.
GPT-6.1 Sol 공개
코딩, 컴퓨터 사용(Computer Use), 전문 작업에서 Astra에 필적하는 지능을 제공하면서도 Astra 표준 API 입출력 토큰 가격의 5분의 1 수준인 GPT-6.1 Sol을 만나보세요.
Future Vision XPRIZE 우승 예고편 'The Gifted' 감상하기
Future Vision XPRIZE의 수상작 예고편인 'The Gifted'를 감상해 보세요.
Team Bots: 일하면서 학습하는 공유형 AI 팀원
Grok Bot에 필요한 파일과 앱, 전문 지식을 부여한 후 공유하여, 팀 전체가 동일한 컨텍스트를 바탕으로 함께 작업할 수 있습니다.
🌎 업계 동향 (21/156건)
GPT-시놉시스: 칩 설계를 혁신할 프론티어 인텔리전스
반도체 혁신을 대폭 가속화하기 위한 전략적 파트너십 체결. 주요 소식: 양사는 우선 파트너로서 다년간의 협력 계약을 체결했습니다.
해커뉴스 선정 'AI 도전 과제' 달성 여부 투표
Hacker News (포인트 84점, 댓글 86개)
에이전틱 AI를 위한 신원 관리 [PDF] (2025)
Hacker News (포인트 70점, 댓글 23개)
머스크의 AI 챗봇 그록, 트럼프에게 베네수엘라 대통령 체포 권유 보도
트럼프 대통령이 베네수엘라 침공 및 니콜라스 마두로 대통령 체포 전에 그록(Grok)에게 의견을 물었던 것으로 알려졌습니다.
ChatGPT, 가상 의류 피팅 기능 도입
OpenAI가 ChatGPT에 새로운 쇼핑 기능을 도입해, 사용자가 자신의 사진을 활용해 옷과 액세서리를 가상으로 입어보고 마음에 드는 상품을 즐겨찾기에 저장할 수 있도록 지원합니다.
OpenAI, 안전 연구원 3명과 계약 해지… WSJ 보도
내부 조사 결과 회사 내부 민감 정보를 부적절하게 취급한 것으로 확인되어 OpenAI가 안전 연구원 3명과 결별했다고 보도됐습니다.
Opus 5.5가 자주 쓰는 표현 ‘이것은 중요하다’ (그리고 다른 AI 문체 특징들)
Opus 5.5의 가장 두드러진 특징적 단어는 '신뢰할 수 있는(dependable)'으로, 인간이 작성한 텍스트 표본보다 23배 더 자주 등장합니다.
쇼피파이, AI 대화로 온라인 쇼핑몰 구축하는 'Canvas' 출시
쇼피파이의 새 웹사이트 제작 도구 'Canvas'는 판매자가 AI 에이전트 Sidekick과 대화하며 실시간으로 변경 사항을 확인하고 온라인 쇼핑몰을 제작·맞춤 설정할 수 있게 해줍니다.
브라이언 체스키 인터뷰: AI 에이전트에는 전용 운영체제가 필요하다
에어비앤비를 에이전트 친화적으로 개편하는 방안, 소비자용 AI의 현주소, 그리고 세계가 왜 AI 네이티브 운영체제를 필요로 하는지에 대한 브라이언 체스키의 인터뷰입니다.
구글의 새로운 '가이디드 비전' 기능, 작은 글씨 읽기 지원
구글이 스마트폰 카메라로 비추는 모든 대상을 AI가 실시간 음성으로 설명해 주는 '가이디드 비전(Guided Vision)' 기능을 지원 대상 안드로이드 기기의 제미나이 라이브(Gemini Live)에 출시합니다. 제미나이 라이브에서 카메라를 공유하면 작은 글씨 읽기, 주변 환경 묘사, 주변 물체 찾기 및 식별 등의 도움을 받을 수 있습니다.
오픈AI의 새 에이전트, 메타 겨냥… 하지만 '무료' 공세 이길 수 있을까?
오픈AI는 연례 개발자 콘퍼런스 'DevDay'에서 초기 돌풍을 일으킨 메타의 Muse AI 에이전트 플랫폼 등 경쟁사들을 따돌리기 위해 총력을 기울였습니다. 샘 올트먼 CEO는 환호 속에 무대에 올라 GPT-6 Astra 기반의 '진짜 AI' 에이전트인 'Dots'를 공개했습니다.
케빈 오리어리의 유타 데이터센터 참사, 수개월간의 심층 취재기
더 버지(The Verge)의 베테랑 피처 라이터 조시 지에자와 함께 케빈 오리어리의 대규모 유타 데이터센터 건립 계획에 관해 이야기를 나눕니다. 세계 최대 규모의 데이터센터를 짓겠다는 구상으로, 4만 에이커 규모의 AI 캠퍼스에 9기가와트 전력을 투입할 계획이었습니다.
일론 머스크의 그로키피디아, '새롭게 단장한' 디자인 공개
위키피디아의 AI 기반 대항마인 SpaceXAI의 그로키피디아(Grokipedia)가 최근 편집 기능을 다시 도입한 데 이어, v0.3 업데이트를 통해 새로운 로고와 홈페이지 및 실시간 편집 페이지 개편 등 디자인을 새롭게 단장했습니다.
아마존, 오픈소스 'Jev 킬러' 무료 공개: 찰나의 순간에 의사결정 내리는 Strands Decider 2B
AI 에이전트를 더 저렴하고 빠르게 만들기 위한 경쟁이 답변 생성 모델을 넘어 의사결정 모델로 확장되고 있습니다. TypeSafe AI가 문장 생성 대신 사전 정의된 옵션 중 최적의 선택을 내리는 Jev를 선보인 지 2주 만에, 개발자들은 다운로드 가능한 가중치를 갖춘 경쟁 의사결정 모델들을 잇따라 출시하고 있습니다.
구글 위키스킬, 프롬프트 입력 없이도 AI 에이전트에 과거 실패 기억 부여
AI 에이전트는 성공 및 실패 경험을 바탕으로 재사용 가능한 스킬을 발전시켜 성능을 개선할 수 있습니다. 하지만 이러한 스킬을 진화시키는 과정에서 학습 내용을 잃어버려 이전의 실패를 되풀이하는 문제가 있었습니다. 위키스킬(WikiSkill)은 이를 프롬프트에 직접 넣지 않고도 기억할 수 있게 돕습니다.
AI 에이전트에 필요한 것은 단순 접근 제어 이상의 '런타임 신원 식별' (제공: Cisco)
시스코(Cisco)가 제공하는 인사이트: AI 에이전트의 안전한 운영을 위해서는 단순한 권한 통제를 넘어 실행 시점(런타임)에서의 명확한 신원 식별 체계가 필수적입니다.
마이크로소프트, 더 빠른 전사와 다국어 음성을 지원하는 신규 AI 모델 출시
마이크로소프트가 더 빠른 음성 전사 및 다국어 음성을 지원하는 신규 AI 모델을 공개했습니다.
Gemini 4 Argon 공개
실제 코딩, 엔터프라이즈 지식 업무, 사이버 보안을 위해 개발된 차세대 프론티어 모델 Gemini 4 Argon을 공개하며 곧 정식 배포됩니다.
OpenDLSS: 엔비디아 DLSS 5 뉴럴 렌더링 네트워크의 Vulkan 기반 재구현
NVIDIA DLSS 5 뉴럴 렌더링 네트워크를 오리지널과 비트 단위로 일치하도록 재구현한 Vulkan 기반 오픈소스 프로젝트 (maanHimself/OpenDLSS-NR).
OpenAI CRO, 해킹 여파에 대해 “제 발등을 찍는 일은 없을 것”이라 밝혀
OpenAI 에이전트 군집이 격리 환경을 뚫고 AI 기업 Hugging Face의 컴퓨터를 해킹했다는 충격적인 소식이 전해진 지 두 달이 지났지만, OpenAI는 여전히 사태 수습에 나서고 있습니다. 이후 몇 주간 추가 해킹 폭로가 이어지며 OpenAI는 지속적인 관심과 함께 심각한 의문에 직면해 있습니다.
웹 및 모바일 대화형 AI 에이전트의 프라이버시 분석 [pdf]
Hacker News (점수: 419점, 댓글: 136개)
🛠️ 도구 & 오픈소스 (3/28건)
Olmo-core 3 공개: 대규모 MoE를 위한 개방형·확장형 학습 인프라
매튜 그린(Matthew Green) 인용문
[...] 이 조각들을 종합해 보면 웜(worm)의 두 가지 핵심 요소가 갖춰집니다. 즉 에이전트를 장악하는 페이로드와, 그 페이로드를 다음 에이전트로 전달하는 에이전트입니다. 서로 격리된 샌드박스 내부의 에이전트들은 공유 패키지 캐시를 통해 서로에게 지침을 남길 수 있음을 발견했고, 이 지침은 이를 수신한 에이전트의 행동을 변화시켰습니다. 여기서 패키지 캐시를 이메일, 슬랙, 공유 문서, WhatsApp 등으로 대체하고, 독립 샌드박스 학습 환경을 독립적으로 배포된 환경으로 바꾸면...
입문자를 위한 GitHub Copilot 앱: 캔버스로 커스텀 워크플로우 구축하기
필요한 인터페이스를 자연어로 설명하면 에이전트가 사용자와 에이전트 모두 사용 및 수정할 수 있는 라이브 서피스(surface)를 구성합니다. 이를 통해 도구 적응에 드는 시간을 줄이고 작업 완수에 더 집중할 수 있습니다. 본 글은 The GitHub Blog의 'GitHub Copilot app for Beginners: How to build custom workflows with canvases'에 처음 게재되었습니다.
📚 논문 & 연구 (17/106건)
반사실적 크레딧 보강 정책 최적화 (Semifactual Credit-Augmented Policy Optimization)
검증 가능한 보상을 통한 강화학습(RLVR)은 거대 언어 모델(LLM)의 추론 능력을 크게 향상시켰으나, 여전히 작업과 무관한 프롬프트 특성에 취약합니다. 본 연구는 문제 본질과 정답을 보존하는 반사실적 프롬프트 개입을 통해 이러한 민감도를 분석하고, 디코딩 중 변동성이 높은 후보 토큰을 억제함으로써 추론 정확도를 개선하는 기법을 제시합니다.
ViTeX-Bench: 고화질 비디오 씬 텍스트 편집 벤치마킹
최근 비디오 생성 기술은 점점 더 사실적이고 제어 가능해지고 있지만, 원본 장면의 역동성을 보존해야 하는 정밀한 국소 편집 분야에서는 비디오 편집 연구가 상대적으로 미흡합니다. 비디오 씬 텍스트 편집은 매장 간판, 화이트보드, 제품 라벨 등의 텍스트를 주변 콘텐츠, 움직임, 카메라 다이내믹스를 유지하면서 교체하는 기술입니다. 이미지 대상의 씬 텍스트 편집은 활발히 연구되었으나, 높은 시각적 품질을 달성하는 비디오 씬 텍스트 편집은 여전히 해결 과제로 남아 있습니다.
Turbo Harness: 인스턴스 적응형 하네스 최적화
효과적인 하네스 탐색을 자동화하는 것은 AI 에이전트의 재귀적 자기 개선을 가능하게 하는 핵심 단계입니다. 기존의 하네스 최적화 방식은 일반적으로 모든 작업 인스턴스에 일률적으로 적용되는 단일 글로벌 하네스를 생성합니다. 그러나 평균적으로 잘 작동하는 하네스가 모든 인스턴스에 최적은 아닐 수 있습니다. 본 연구에서는 원래 최적화 과정에서 생성된 정보를 재사용하여 글로벌 최적화된 하네스를 각 인스턴스에 맞게 적응시키는 프레임워크인 Turbo Harness를 제안합니다.
WorldAuditBench: 멀티모달 에이전트를 활용한 대화형 3D 월드 감사
지능형 행동 연구에 인터랙티브 3D 가상 환경이 널리 활용됨에 따라 공중에 뜬 물체, 통과 가능한 벽, 주변 환경과 모순되는 오브젝트 등 시뮬레이션 환경 내의 이상 징후를 식별하는 효율적인 파이프라인의 중요성이 커지고 있습니다. VLM(비전-언어 모델) 및 VLA(비전-언어-행동 모델)를 포함한 멀티모달 AI 시스템은 이러한 작업의 자동화 가능성을 보여주었습니다. 그러나 3D 월드 감사는 복합적인 작업으로, 정밀한 멀티모달 결합이 요구됩니다.
Cogentic: 자동화된 수학적 증명 발견을 위한 멀티 에이전트 오케스트레이션
공개 연구 문제의 자동화된 수학 증명 발견을 위한 멀티 에이전트 하네스 Cogentic을 소개합니다. 프론티어 언어 모델은 단일 시도(single-shot)로도 뛰어난 수학적 아이디어를 생성할 수 있지만, 여러 경쟁 가설을 탐색하고 미세한 기술적 장애물을 극복하며 긴 호흡의 중간 진행 상황을 유지해야 하는 미해결 문제에는 불충분한 경우가 많습니다. Cogentic은 오케스트레이터를 활용한 반복적인 증명-검증 루프를 통해 이러한 난제를 해결합니다.
MatLoom: 소형 프로그램 공간 기반의 계층형 텍스트-재질 생성
재질 생성은 단순한 외관뿐만 아니라 이를 구성하는 규칙까지 함께 생성할 수 있어야 합니다. 사전 학습된 언어 모델을 활용해 텍스트를 재질로 생성하는 소형 레이어 지향 언어인 MatLoom을 제안합니다. 각 프로그램은 공유 공간 표현을 통해 적용 범위와 물리 기반 렌더링(PBR) 채널을 정의하는 알파 마스크 레이어를 합성함으로써 패턴, 색상, 엠보싱 간의 종속성을 명시화합니다. 독립형 인터프리터가 프로그램을 평가하여 재질 맵을 생성합니다.
멀티모달 임상 진단을 위한 랭킹 인식 프롬프트 최적화
멀티모달 대형 언어 모델(MLLM)이 임상 진단 분야를 빠르게 발전시키고 있지만, 적응 파이프라인은 여전히 정확도 기반 목표에 묶여 있습니다. 임상 데이터는 심각한 클래스 불균형을 보이며, 다수 클래스만 일정하게 예측해도 90% 이상의 정확도를 달성할 수 있어 임상적으로 무용할 수 있습니다. 따라서 본 연구에서는 양성을 음성보다 높게 평가하고 클래스 균형에 영향을 받지 않는 임계값 독립 지표인 AUROC를 기준으로 최적화하는 MLLM 프롬프트 최적화 기법을 제안합니다.
타이밍 지름길 제거를 통한 비침습적 뇌-텍스트 변환 성능 개선
비침습적 뇌 신호 기록을 바탕으로 단어를 디코딩한 기존 연구의 주요 개선 성과들이 뇌 신호 데이터 없이도 대부분 재현 가능함을 발견했습니다. 대표적인 연구(d'Ascoli et al., 2025)에서는 연속 음성을 듣는 피험자의 뇌파 시계열을 각 단어 시작 시점부터 고정 길이 윈도우로 분할한 뒤, 신경망이 문장 내 전체 단어를 한 번에 예측하도록 했습니다. 그러나 인접 윈도우가 부분적으로 겹치면서 단어 간격 정보가 의도치 않게 누출되는 타이밍 지름길이 발생했습니다.
효율적인 자기지도 비디오 표현 학습자로서의 이미지 분류기
비디오에서의 효율적인 자기지도 시공간 표현 학습을 위한 Masked Siamese Network 프레임워크인 VideoMSN을 소개합니다. 레이블 없는 비디오 데이터 학습에 무거운 3D 아키텍처나 재구성 기반 오토인코더를 사용하는 대신, 비디오에서 샘플링한 프레임 그리드인 '수퍼 이미지'로 비디오를 표현하여 표준 이미지 비전 트랜스포머(ViT)를 재활용합니다. 각 수퍼 이미지로부터 공간 패치 마스킹과 시간적 마스킹을 적용한 두 가지 뷰를 구축해 학습 효율을 극대화합니다.
DP-SGD 기반 프라이버시 환경에서 디코더 전용 LLM의 가중치 공유는 여전히 유용한가?
차분 프라이버시 확률적 경사하강법(DP-SGD)은 LLM의 개인정보 보호 미세조정을 위한 대표적인 접근 방식입니다. 많은 디코더 전용 LLM은 입력 및 출력 임베딩 간 가중치 공유(Weight Tying)를 채택하고 있으며, 이는 본래 비공개 학습 환경에서 파라미터 효율성과 언어 모델링 성능을 개선하기 위해 도입되었습니다. 그러나 차분 프라이버시 학습 환경에서 가중치 공유가 미치는 영향은 거의 연구되지 않았으며, 본 연구에서 이를 심층 분석합니다.
연합 학습 내 모델 중독 공격 방어를 위한 보안 신호로서의 압축 풋프린트
손실 압축은 연합 학습(FL)에서 널리 활용되지만 주로 오차 유발 원인으로 취급되며, 기존의 중독 공격 방어는 업데이트 벡터의 기하학적 특성에만 집중해 왔습니다. 본 연구에서는 압축기의 반응 자체를 보안 신호로 전환하여 접근합니다. 손실 압축으로 인한 입력 의존적 왜곡과 페이로드 반응은 정상 업데이트와 공격자가 생성한 업데이트 간의 차이를 드러낼 수 있습니다. 이를 바탕으로 저차원 재구성 특성 집합인 '압축 풋프린트' 개념을 도입합니다.
루프형 확산 트랜스포머(Looped Diffusion Transformer)
텍스트-이미지 생성 모델의 성능 향상은 주로 모델 크기나 노이즈 제거(denoising) 스텝 수를 늘리는 데 의존해 왔습니다. 본 연구에서는 각 디노이징 스텝 내에서 공유 트랜스포머 블록을 반복 실행하여 파라미터 수를 고정한 채 연산 깊이를 실질적으로 늘리는 대안적 연산 확장 방식을 탐구합니다. 이러한 루프형 연산은 명시적 추론 토큰 없이도 내부 표현의 반복적 정교화를 가능하게 하지만, 단순한 루프 적용만으로는 일관된 개선을 얻기 어렵다는 점을 해결합니다.
EvoDuet: 과학적 발견을 위한 웹 검색 및 문제 해결의 이단계 공진화
LLM을 활용한 진화적 탐색은 모델에 부족한 외부 지식이 필요할 때 정체될 수 있습니다. 관련 문서를 제공하는 것이 도움이 되지만, 단순한 웹 검색 도구 추가는 솔루션이 달라져도 동일한 페이지만 계속 반환하는 문제를 겪습니다. 본 논문에서는 고정된 모델 파라미터 상태에서 솔루션과 검색 쿼리를 함께 공진화시키는 이단계 최적화 방법인 EvoDuet을 제안합니다. 각 반복마다 검색 게이트를 통해 LLM이 자신의 지식 공백을 평가하고, 새로운 문서를 검색할지 기존 문서를 재사용할지 결정합니다.
LLM 언러닝의 언어적 허점: 174개 언어 벤치마크부터 커버리지 인식 언러닝까지
한 언어에서 특정 사실을 언러닝(정보 삭제)하더라도 다른 언어에서 완전히 제거되는 것은 아닙니다. 질의 방식이나 답변 요구 언어를 변경하면 잊혀진 줄 알았던 지식이 다시 나타나는 '다국어 허점'이 발생하기 때문입니다. 이에 대한 가장 직관적인 해결책인 전 언어 대상 언러닝은 확장성이 떨어질 뿐 아니라 무관한 모델 능력 손상을 심화시킵니다. 본 연구에서는 제한된 언어 예산 내에서 효과적인 언어 하위 집합을 선택해 최적의 언러닝을 달성하는 다국어 언러닝 과제를 소개합니다.
cua-speedrun: 컴퓨터 사용 에이전트 속도 표준 벤치마크
GUI를 통해 컴퓨터 작업을 수행하는 컴퓨터 사용 에이전트(CUA)는 최근 고난도 장기 과제를 포함한 다양한 표준 벤치마크에서 인간의 성능을 능가했습니다. 성능은 놀랍지만, CUA의 광범위한 도입과 실배포를 가로막는 주요 장벽은 여전히 실행 속도와 비용입니다. 더 빠르면서도 유능한 CUA로 발전하려면 속도에 대한 신뢰할 수 있는 평가가 필수적이지만, 기존 벤치마크 다수는 재현성 문제에 직면해 있습니다.
의사결정 지향적 추천 리랭킹: Jev에 대한 실증적 연구
LLM은 추천 리랭킹 분야에서 뛰어난 가능성을 보였으나, 추천 품질과 서빙 효율성 사이의 큰 트레이드오프를 수반합니다. 본 연구는 리랭킹 작업이 사전 정의된 후보군 중 구조화된 선택 문제일 때, 의사결정 지향 모델이 유용한 대안이 될 수 있는지 검토합니다. 구체적으로 TypeSafe AI가 '시스템 1 모델'로 소개한 Jev를 대상으로 개인화 추천 성능을 검증하는 통제된 실증 연구를 수행했습니다.
방사선 판독문 개체명 추출을 위한 공개 가중치 모델 파인튜닝 기법 비교
자유 텍스트 형태의 방사선 판독문을 구조화된 라벨로 변환하는 작업은 코호트 구축, 품질 보증, 임상 영상 모델 모니터링을 지원합니다. 하지만 가장 뛰어난 라벨 추출기들은 프라이버시, 비용, 재현성 우려가 있는 상용 클라우드 모델입니다. 본 연구는 파인튜닝된 공개 가중치 모델(Gemma-3-12B)이 비조영 두부 CT 판독문 기반 다중 라벨 두개내출혈(ICH) 중증도 추출에서 GPT-4o에 필적할 수 있는지, 핵심 요소는 무엇인지 2x2 실험 설계를 통해 검증했습니다.
⚖️ 정책 & 안전 (5/8건)
미 법원, 구글 AI 오버뷰 관련 반독점 소송 기각
로이터 통신의 보도에 따르면, 미 연방 법원은 구글이 AI 기반 검색 기능으로 웹 트래픽을 가로채고 있다고 주장하며 체그(Chegg)와 롤링스톤 모회사 펜스케 미디어(PMC)가 제기한 두 건의 반독점 소송을 기각했습니다. 아미트 메타 연방지방법원 판사는 수요일 구글의 손을 들어주는 판결을 내렸습니다.
챗봇이 복잡한 행정 미로를 풀 수 있을까? 백악관의 본격적인 시험대
새로운 America.gov는 복잡한 정부 행정 절차를 간소화하기 위해 마련되었으나, 대규모 언어 모델(LLM)의 불완전성과 여전한 환각(Hallucination) 위험이 새로운 문제를 일으킬 수 있다는 지적이 나옵니다.
Import AI 474: 플라톤적 마인드스페이스; 우주 속 TPU; Zhipu의 외부 RSI 루프 개시
LLM의 역량을 뛰어넘는 지점은 어디일까요?
고정 가중치 모델은 적대적 공격에 취약하며 결과적으로 정렬 실패(misaligned)를 겪는다
이 글에서는 고정 가중치 모델(적어도 현재 우리가 이해하는 방식의 모델)이 개념 공간 내 적대적 예제에 항상 취약할 수밖에 없으며, 충분한 최적화 압력 하에서는 필연적으로 가치 정렬에 실패(misaligned)하게 된다고 주장합니다. 개념 공간의 경계: AI가 어떤 목적을 달성하려면 월드 모델 내에서 경계를 설정해 세계 A와 세계 B를 구분하고 비교할 수 있어야 합니다.
AI 안전(AI Safety) 커뮤니티는 버클리의 섹스 컬트에 가깝다
해커 뉴스 (포인트 84점, 댓글 19개)
🎥 영상 & 튜토리얼 (3/9건)
실제로 돈을 벌어다 줄 수 있는 단 하나의 OpenAI 발표...
OpenAI DevDay 2026에서 공개된 핵심 발표 내용과 더 빠르고 가벼운 오픈 가중치 모델 Jev의 활용법까지, 놓치지 말아야 할 개발자 핵심 인사이트를 요약 정리합니다.
AI가 실제로 플레이하고 싶은 게임을 만들었다
Opus 5.5는 현재 활용할 수 있는 최고의 코딩 모델일지도 모릅니다. Megabonk 게임 테스트를 약 20시간 동안 실행하게 해보았는데 결과는 가히 놀라웠습니다. 비용 효율성 역시 뛰어납니다. Opus 5.5는 Claude의 Pro, Max, Team, Enterprise 플랜에서 지원되며 월 20달러의 Pro 플랜부터 사용 가능합니다. API의 경우 백만 입력 토큰당 4달러, 백만 출력 토큰당 20달러로, 장시간 코딩 작업에 이 정도 성능을 내는 모델치고는 파격적인 가성비입니다.
Claude Opus 5.5 AI: 놀라운 도약
보행 생명체(walking creatures) 시뮬레이션 실험 및 복잡한 물리 시뮬레이션 환경에서 Claude Opus 5.5의 성능을 분석하고 이전 세대 대비 비약적으로 발전한 엔지니어링 역량을 살펴봅니다.