Embedding Prediction Helps Image Generation

확산 트랜스포머에서 클래스 레이블이나 텍스트 프롬프트 임베딩은 디노이징 단계마다 재사용되는데, 이를 예측된 임베딩으로 대체할 수 있는지 연구했습니다. 이 연구는 다음 임베딩 예측 자기회귀(Next-Embedding Predictive Autoregression, NEPA)라는 트랜스포머를 훈련하여 시퀀스 내의 다음 연속 임베딩을 예측하도록 합니다.

생성 과정에서 깨끗한 이미지는 노이즈가 섞인 이미지 다음에 오므로, 이 이미지들의 임베딩은 조건과 노이즈 이미지 다음의 임베딩이 됩니다. 연구진은 다중 임베딩 예측(Multi-Embedding Prediction)을 통해 이 모든 것을 한 번에 예측하는 NEPA 모델을 훈련시켰습니다. 이 예측 결과를 임베딩 조건화 생성(Embedding Conditioned Generation)에 적용하여 DiT 생성기가 각 디노이징 단계마다 이 예측값으로 조건화되도록 하여 조건 신호가 현재 노이즈 상태에 적응하도록 했습니다.

ImageNet $256\times256$ 클래스 조건부 실험을 통해 생성기의 조건 설정, 다중 임베딩 예측 설계, 그리고 두 모델의 스케일링에 대한 결과를 분석했습니다. 특히 NEPA 모델은 샘플링 단계마다 두 번째 네트워크를 추가하며, REPA와 결합된 최종 모델인 NEPA-DiT-XL은 REPA 훈련 컴퓨팅의 약 3분의 1만 사용하여 FID 1.32라는 결과를 달성했습니다.

ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New Research

최근 연구 분야에서 인공지능 시스템이 개방형 문제 해결에 진전하고 있음에도 불구하고, 과학자들은 여전히 방대한 연구 기록 속에서 새로운 문제에 필요한 선행 아이디어를 감지하는 데 있어 AI보다 앞서 있습니다. 이러한 과학적 추론 능력을 연구하기 위해, 본 논문은 선행 연구가 완료된 프로젝트를 발전시킨 아이디어를 식별하는 데 초점을 맞춘 벤치마크인 ScholarCatalyst를 구축했습니다.

ScholarCatalyst는 207개의 최근 컴퓨터 과학 논문의 184명의 주요 저자가 각 후보 연구가 프로젝트를 발전시켰거나 발전시킬 수 있었는지에 대한 상세한 근거를 제공하여 주관적인 판단을 학습하는 방식으로 구축되었습니다. 이 벤치마크는 초기 연구 질문이 주어졌을 때, 프로젝트 시작 시점의 문헌만을 검색하여 관련 논문을 검색하는 회상(retrieval) 과제를 도입합니다.

실험 결과는 에이전트 기반 검색이 임베딩 검색보다 성능이 낮음을 보여주며, 도구로 동일한 검색기를 호출하더라도 Recall@20 점수는 0.42 대 0.48로 차이를 보였습니다. 심지어 Claude Fable 5.1을 기반으로 구축된 에이전트조차도 0.51의 Recall@20 성능에 머물렀습니다.

이러한 결과는 모델이 광범위한 데이터에서 전문가적인 직관을 갖도록 하는 새로운 학습 방식이 필요함을 강조합니다. 연구진은 ScholarCatalyst가 절반만 완성된 아이디어를 제시할 때 필요한 선행 연구를 지시할 수 있는 과학적 에이전트로 나아가는 단계가 될 것으로 전망합니다.

SILSA: Sliding-Window Slice Latents for Topology-Preserving High-Resolution 3D Generation

고해상도 3D 생성은 주로 복셀 잠텐트와 다단계 파이프라인에 의존하는데, 이는 연속적인 표면을 많은 로컬 토큰으로 분할하여 생성 비용을 증가시키고 얇거나 연결성이 높은 형태의 위상 일관성을 약화시키는 문제가 있습니다. 이에 본 논문은 슬라이딩 윈도우 슬라이스 잠텐트를 사용하여 형태를 표현하는 위상 인식 3D 생성 프레임워크인 SILSA를 제안합니다.

SILSA는 비싼 복셀 토큰 대신 세 가지 기본 축을 따라 겹치는 슬라이스들을 사용하여 형태를 표현하며, 각 토큰은 국소적인 깊이 창을 요약하여 단일 단계 정류 흐름 생성을 지원하고 단면 연속성을 보존합니다. 이를 위해 Slice VAE는 방향성 표면 샘플을 다중 축 슬라이스 잠텐트로 인코딩하고 희소 볼류메트릭 디코더로 재구성하며, 볼류메트릭 앵커 격자는 공유 3D 작업 공간을 통해 방향성 슬라이스 스트림을 조정합니다.

구조적 정확성을 보존하기 위해 SILSA는 지속성 다이어그램과 이웃 슬라이스 간의 베티 전환을 정렬하는 슬라이스 수준 위상 감독을 도입했습니다. 실험 결과, SILSA는 가장 강력한 기준선 대비 PSNR을 8.7%, 커버리지를 5.96 절대 포인트, 베티 오류를 9.2% 개선했습니다. 또한, SILSA는 다음으로 컴팩트한 기준선보다 70.0% 적은 토큰을 사용하며, 희소 또는 계층적 토크나이저보다 98% 적은 토큰을 사용하여 훈련 메모리를 40.4%, 추론 시간을 58.5% 절감합니다.

정성적인 결과 또한 얇은 구조, 반복 구성 요소, 장거리 연결성의 보존이 향상되었음을 보여줍니다.

VISTA: A Visual Harness for Reasoning in an Interactive World

멀티모달 모델이 강력한 추론 능력을 가지고 있으며, 적절한 하네스(harness)를 통해 다양한 상호작용 환경에서 잠재력을 발휘할 수 있음을 보여주는 연구 결과입니다. 연구진은 일반 목적의 멀티모달 모델에 장거리 시야를 제공하는 시각 하네스인 VISTA를 소개했습니다.

VISTA는 모델이 시각적 관찰을 통해 환경을 직접 인식하고 과거 관찰 내용을 원형 그대로 보존하는 손실 없는 시각 기억을 유지할 수 있게 합니다. 모델은 이 관찰 내용을 능동적으로 검색하고 추론 과정에서 시각 입력을 재구성할 수 있습니다.

ARC-AGI-3 벤치마크에서 VISTA는 Claude Opus 5.0의 상대적 인간 행동 효율성 점수를 40.68점에서 완벽한 100.00점으로 향상시켰습니다. 이 모델은 첫 시도 인간 참가자들보다 57.4% 적은 행동으로 25개의 공개 게임을 완료했습니다. 또한 VISTA의 단순한 설계 덕분에 최소한의 적응만으로 다양한 시각 환경으로 자연스럽게 확장할 수 있습니다.

이러한 결과는 VISTA가 복잡한 시각 환경에서 멀티모달 에이전트를 발전시키는 데 사용될 수 있는 범용 시각 하네스로서의 잠재력을 강조합니다. 추가적인 세 가지 벤치마크에서도 동일한 기반 모델을 사용하면서 최소한의 하네스로 기존 기준 모델들을 크게 능가하는 성능을 보였습니다.

TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning

대규모 언어 모델(LLM)의 전체 파라미터 미세 조정은 옵티마이저 상태 메모리 오버헤드가 상당하여 최신 GPU에 맞는 모델 크기를 제한하는 문제가 있습니다. 기존 접근 방식들은 옵티마이저 상태 압축, 일차 미분 포기, 또는 밀집 상태를 유지하면서 업데이트 기하학을 변경하는 방식으로 해결책을 모색해 왔습니다.

최근 도입된 Muon 옵티마이저는 행렬 값 기반 업데이트를 통해 옵티마이저 메모리를 줄였으나, AdamW와 기하학이 달라 AdamW 사전 학습 모델을 미세 조정할 때 성능 저하가 발생할 수 있습니다. 이에 연구진은 정확도와 계산 효율성을 희생하지 않으면서 옵티마이저 메모리를 줄이기 위해 Ternary Absolute-max Column-wise One-sparse 옵티마이저, 즉 TACO를 제안했습니다.

TACO는 Muon의 연산 노름 경사 하강 관점을 따르면서도 기하학적 경로를 더욱 발전시켜, 두 차원 가중치 행렬의 각 열에서 가장 큰 크기 항목의 부호를 선택함으로써 차원 정규화된 $1\to1$ 연산 노름 하에서 정확한 경사 하강 방향을 계산합니다. 이 방법은 일차 미분은 유지하면서 옵티마이저 상태 메모리를 거의 무시할 수 있는 수준으로 만듭니다.

실제 TACO 옵티마이저는 각 열당 소수의 저정밀 기울기 구성 요소만을 유지하여 AdamW8bit 대비 옵티마이저 상태를 174배 감소시켰으며, OPT-13B 모델에서 피크 훈련 메모리를 2.9배 줄이는 데 성공했습니다. 이 결과는 정확도와 런타임을 유지하면서 30~32B 파라미터 모델을 단일 80GB H100 GPU에서 전체 파라미터 미세 조정할 수 있게 합니다.

FERPO: Forward Entropy-Regularized Policy Optimization

최신 강화 학습 방법론인 FERPO(Forward Entropy-Regularized Policy Optimization)는 정책 개선을 위해 크리틱의 값만을 사용하여 정책을 개선하는 새로운 온-폴리시 최대 엔트로피 강화 학습 알고리즘을 제안합니다. 기존 방법들은 학습된 크리틱의 행동 기울기를 사용하지만, 정확한 가치 예측이 반드시 정확한 행동 미분으로 이어지지 않아 정책 업데이트가 불안정할 수 있다는 한계가 있었습니다.

FERPO는 크리틱을 행동에 대해 미분하지 않고도 크리틱 값을 사용하여 정책 개선을 수행하며, 엔트로피와 쿨백-라이블러(KL) 발산으로 정규화된 정책 개선 목표로부터 최적의 목표 행동 분포를 도출합니다. 이후 이 목표에 맞추기 위해 자기 정규화 중요도 샘플링(SNIS)을 사용하여 행동을 샘플링하고 순방향-KL(forward-KL) 목적 함수를 최소화하여 액터(actor)를 적합시킵니다.

순방향-KL 목적 함수는 역방향-KL 목적 함수와 달리 목표 분포의 여러 고가치 모드(modes)를 포괄하도록 장려하여 탐색을 촉진하며, 이는 중요도 가중치가 잘 작동하도록 돕습니다. MuJoCo Playground와 ManiSkill 실험 결과, FERPO는 경쟁력 있는 성능과 샘플 효율성 향상을 보였으며, 계산 벤치마크에서는 상대 엔트로피 경로 정책 최적화(REPPO)보다 더 빠른 액터 업데이트 속도를 입증했습니다.

Cost-augmented Schrödinger bridges on graphs are exactly solvable: a Feynman-Kac tilt replaces learned control

그래프 상의 비용 증강 슈뢰딩거 다리(cost-augmented Schrödinger bridge)는 두 분포 사이에 질량을 이동시키면서 방문한 상태에 비용을 부과하는 개념입니다. 이 문제는 제어된 연속 시간 마르코프 체인의 속도를 학습하고 시간 차분 페널티를 사용하여 비용을 복원하는 방식으로 접근되었습니다.

상태 비용은 기준 과정으로 폴딩되어 파인만-카치 기울기(Feynman-Kac tilt)로 표현되며, 비용 증강 다리는 기울어진 기준에 대한 일반 다리가 되어 페널티가 불필요해집니다. 이 다리는 시간이나 학습을 통해 이산화되지 않고 정확하게 계산되며, 두 끝점 재조정(endpoint rescalings)을 번갈아 수행하는 희소 행렬 지수 연산으로 계산됩니다.

이러한 정확한 계산 방식은 다양한 분야에 적용될 수 있습니다. 예를 들어, 시간 평균 점유율에 대한 이차 혼잡 비용에는 정확한 다리 주변의 감쇠 최적화가 강한 볼록 함수에 대한 경사 하강으로 이루어지며 잔차는 오차를 제한합니다. 단백질 접힘 모델에서는 자유 에너지 비용이 접힘 경로의 예상 장벽을 낮춥니다.

또한 학습 접근 방식의 도로 네트워크에서는 정확한 다리의 롤아웃이 샘플링 오차 내에서 목표를 일치시키며, 수백만 개의 교차점을 가진 네트워크에서는 메모리가 선형적으로 증가하는 것으로 나타났습니다.

Opus 5.5 loves to tell you ‘this matters’ (and other AI writing tells)

Opus 5.5 모델의 글쓰기에서 가장 두드러지는 특징은 'dependable'이라는 단어를 인간 샘플보다 23배 더 자주 사용한다는 점입니다. 또한 이 모델은 'this matters'라는 표현을 인간 글보다 116배 더 자주 사용하며, '왜 X가 중요한지'를 설명하는 방식이 92배 더 흔하게 나타났습니다. 이는 AI가 단순히 정보를 전달하는 것을 넘어, 결과의 중요성을 강조하는 방식으로 서술하는 경향이 있음을 보여줍니다.

연구 결과는 AI 모델마다 고유한 특징을 보이며, 이는 모델의 종류에 따라 다르게 나타납니다. 예를 들어, OpenAI의 Astra 모델은 어떤 주제에 대해 '다른 차원'을 묘사하거나 주장을 '제공할 수 있다'는 식으로 완화하는 경향을 보입니다. 특히 주제를 '단순히 X가 아니라 Y'로 정의하는 '수정적 프레이밍(corrective framing)'이 인간 글보다 100배 이상 흔하게 나타났습니다.

모델들이 엠대시와 같은 흔한 문장 부호를 사용을 줄이고 있지만, 이러한 특징들이 완전히 사라지지는 않는 것으로 나타났습니다. 연구진은 이러한 특징들이 감소하기보다는 다른 특징들이 나타나고 있으며, 각 모델 버전마다 고유한 특징을 가지고 있다고 분석했습니다. 이는 수십억 개의 매개변수를 가진 거대 모델들이 인간과 유사한 스타일을 모방하려 하지만, 아직까지는 이러한 특징들을 완전히 통제하기 어렵다는 한계를 시사합니다.

Memory executives expect RAM shortage to continue through 2028

마이크론과 삼성의 경영진은 메모리 부족 사태가 최소 향후 몇 년간 지속될 것으로 예상한다고 밝혔습니다. 마이크론의 산제이 메흐로트라 CEO는 투자자들에게 메모리 수요가 해당 기간 동안 공급량을 초과할 것으로 전망했습니다.

이러한 전망은 주로 인공지능(AI) 및 서버용 고대역폭 메모리(HBM)와 서버용 DRAM 판매에 초점을 맞추고 있습니다. 메모리 제조 역량이 AI와 서버 분야에 우선적으로 배정되면서 소비자 장치용 메모리 공급이 제한되고 있습니다.

실제로 마이크론은 더 이상 소비자용 RAM을 판매하지 않지만, 이러한 공급 제약은 소비자 기기 시장에도 영향을 미칩니다. 메모리 공급 부족 상황에서 2027년 메모리 가격은 2026년 가격보다 훨씬 높아졌다는 시장 정보가 있습니다.

경찰, iPhone 자동 재부팅을 우회해 잠긴 기기에 접근할 수 있어

Magnet Forensics가 iPhone의 자동 재부팅 보안 기능을 우회하여 경찰이 잠긴 기기에 더 쉽게 접근할 수 있는 기술을 개발했다고 유출 영상에서 밝혀졌습니다. 이 기술은 Apple의 비활성 재부팅(inactivity reboot) 기능과 관련이 있으며, 이 기능은 72시간 동안 잠금이 해제되지 않은 iPhone에 적용됩니다.

이러한 보안 기능은 기기가 일정 시간 동안 사용되지 않을 때 자동으로 재부팅되도록 설정하여 데이터 보호를 강화하는 목적으로 설계되었습니다. 하지만 Magnet Forensics가 개발한 방법은 이 자동 재부팅 보안 절차를 우회함으로써, 잠금 상태의 기기에서 민감한 데이터에 접근하는 것을 용이하게 할 수 있다는 점이 주목됩니다.

이는 법 집행 기관이 기기 접근에 필요한 절차를 우회할 수 있는 잠재적인 경로를 제공한다는 점에서 보안 및 개인 정보 보호 측면에서 중요한 맥락을 가집니다. 개발자들은 이러한 기기 상태 관리 및 잠금 해제 메커니즘의 보안 취약점을 이해하고, 기기 상태 변화에 따른 데이터 접근 통제 방식을 더욱 강화할 필요가 있습니다.

GPT-Synopsys, 칩 설계를 혁신할 최첨단 AI

OpenAI와 Synopsys가 다년간의 전략적 제휴를 통해 칩 설계에 특화된 최첨단 AI 모델인 GPT-Synopsys를 공동 개발하기로 합의했습니다. 이 모델은 Synopsys의 전자설계자동화(EDA) 도구 사용에 최적화되어 있어, 범용 모델을 넘어 실제 엔지니어링 도구에 깊이 통합되는 것을 목표로 합니다.

GPT-Synopsys의 핵심 목표는 단순히 모델을 도구에 연결하는 수준을 넘어, 모델이 EDA 도구를 직접 실행하고 그 결과를 정확하게 해석하는 능력을 갖추는 것입니다. 이는 AI가 추상적인 개념을 넘어 실제 칩 설계 과정에서 발생하는 복잡한 계산과 결과 해석을 수행할 수 있게 함을 의미합니다.

이러한 협력은 AI가 소프트웨어 도구 사용을 넘어 하드웨어 설계의 구체적인 실행 단계에 직접 관여하는 혁신적인 방향으로 발전할 수 있는 기반을 마련합니다. 결과적으로 엔지니어들은 AI를 통해 칩 설계의 효율성과 정확성을 획기적으로 높일 수 있게 될 것입니다.

Show HN: Vote on which of Hacker News' challenges for AI have been met

해커 뉴스에서 AI에게 제시했던 여러 도전 과제들이 얼마나 달성되었는지 투표를 통해 평가하는 내용입니다. 이 글은 지난 몇 년간 해커 뉴스가 AI 분야에 설정했던 다양한 도전 과제들 중 현재 AI가 어떤 목표를 달성했는지 커뮤니티의 의견을 모으고자 합니다.

사용자들은 AI가 설정된 목표들을 달성했는지에 대해 투표에 참여할 수 있습니다. 이 투표는 AI 발전의 진척도를 객관적으로 측정하고 평가하는 데 목적이 있습니다.

현재 투표 결과와 관련 논의가 진행 중이며, 해당 결과는 댓글 섹션에서 확인할 수 있습니다. 이는 AI 연구 분야에서 설정된 목표와 실제 성과 사이의 간극을 확인하는 데 의미가 있습니다.

Judge dismisses antitrust lawsuits over Google’s AI Overviews

연방 판사는 구글의 AI 기반 검색 기능인 AI 오버뷰와 관련하여 체그(Chegg)와 롤링 스톤의 모회사인 펜스케 미디어 코퍼레이션(Penske Media Corporation)이 제기한 반독점 소송 쌍을 기각했습니다. 미국 지방 판사 아밋 메타(Amit Mehta)는 수요일 판결에서 펜스케 미디어 코퍼레이션과 체그의 주장이 반독점법에 부합하지 않는다고 판결했습니다.

이 소송들은 구글이 AI 오버뷰에 필요한 콘텐츠를 무료로 제공하거나 그렇지 않을 경우 검색 결과에서 사라질 위험을 감수하도록 출판업체들을 강제함으로써 웹 트래픽을 빼앗았다는 주장을 제기했습니다. 출판업체들은 구글의 이러한 관행이 웹 트래픽을 유인하는 방식에 영향을 미쳤다고 주장했습니다.

결국 법원은 구글의 행위가 반독점법을 위반하지 않는다고 판단하여 소송을 기각했습니다. 이는 구글이 AI 기능을 통해 콘텐츠 공급자들에게 콘텐츠를 제공하도록 압력을 가한 행위가 법적으로 반독점 위반으로 인정되지 않았음을 의미합니다.

SlutCon

슬루트콘(SlutCon)은 남성들이 유혹 기술을 향상시키기 위해 베를린 버클리에서 열린 3일간의 리트릿으로, 참가자들은 주로 '합리주의(rationalism)'라는 하위문화와 연관되어 있습니다. 이 행사는 단순히 유혹 기술을 배우는 것을 넘어, 내면 상태와 상호작용에 대한 철학적 접근을 다루며, 참가자들은 인지 편향을 피하고 베이즈 추론을 실생활 목표에 적용하는 데 관심을 두고 있습니다.

행사가 개최된 장소인 라이트헤이븐(Lighthaven)은 과거 호텔이었으나 현재는 '라이트콘 인프라스트럭처(Lightcone Infrastructure)'라는 조직이 운영하며, 이는 엘리에저 유드코프스키, 로빈 핸슨 등 합리주의 관련 작가들로 알려진 인물들과 연결되어 있습니다. 이 하위문화는 인공지능 정렬(alignment)과 같은 실제 세계 목표에 베이즈 추론을 적용하고, '공격 표면(attack surface)'이나 '사전 지식(priors)' 같은 용어를 통해 인지적 편향을 피하는 데 중점을 둡니다.

참가자들은 유혹 과정에서 자신의 내면 상태를 공유하는 '서클링(circling)'과 같은 연습을 통해 상호작용을 훈련했으며, 이는 취약성이 해악의 초대라는 점을 인식하는 것과 연결됩니다. 글쓴이는 이러한 경험을 통해 취약성이 항상 위험을 수반한다는 점을 강조하며, 안전을 확보하기 위해 자신의 취약성을 숨기는 것이 더 안전하다고 느꼈다고 고백합니다.

결론적으로 이 경험은 관계에서 진정한 연결이 안전과 취약성의 균형에 달려 있으며, 감정적 변화를 위해서는 행동 훈련보다 신경계(nervous system)를 진정시키는 내적 변화가 선행되어야 한다는 통찰을 제공합니다.

This startup wants to turn idle user car inventory into rental revenue

이거 스타트업은 유휴 사용자 차량 재고를 임대 수익으로 전환하려는 사업 모델을 구축했습니다. 이고르 도브리안스키(Igor Dobrianskyi)는 딜러십에 있는 차량을 단순히 재고가 아닌 수백만 달러의 자산으로 보았으며, 단기적으로 차량이 필요한 사람들은 너무 많은 비용을 지불하고 선택의 폭이 좁다는 문제를 해결하고자 이 플랫폼을 개발했습니다.

그가 만든 MyMonthlyCar 플랫폼은 딜러들이 유휴 중인 중고차를 월 단위로 임대할 수 있게 하며, 구매 옵션도 제공하는 서비스를 제공합니다. 이 플랫폼은 차량의 비효율적인 자원 활용을 촉진하고 소비자에게 합리적인 선택권을 제공하는 것을 목표로 합니다.

이러한 혁신적인 사업 모델을 선보인 MyMonthlyCar는 올해 10월 13일부터 15일까지 샌프란시스코에서 열린 테크크런치 디스럽트(TechCrunch Disrupt) 행사에서 스타트업 중 하나로 주목받았습니다. 이는 차량 공유 및 임대 시장에서 자산 활용을 극대화하는 새로운 비즈니스 모델에 대한 관심을 반영합니다.

Sony brings AI graphics upscaling to the regular PS5

소니가 일반 PS5에 적용할 새로운 AI 업스케일링 기술인 퀵 스펙트럴 슈퍼 해상도(QSSR)를 출시합니다. 이 기술은 AMD와의 소니 프로젝트 아메시스트(Project Amethyst)의 결과물로 개발되었으며, 새로운 성능 단계의 AI 업스케일링으로 소개됩니다.

현재 PS5 프로에 적용되는 플레이스테이션 스펙트럴 슈퍼 해상도(PSSR)는 여전히 최고 수준으로 평가받고 있지만, QSSR은 일반 PS5에 적용되는 기술입니다. 디지털 파운드리(Digital Foundry)의 초기 테스트에 따르면, PS5에 전용 머신러닝 실리콘이 없기 때문에 PSSR에 비해 QSSR의 속도는 느립니다.

따라서 QSSR을 통해 PS5에서 기대할 수 있는 결과는 PS5에 업스케일링된 1440p 해상도에 가까운 수준이 될 것으로 보입니다. 이는 PS5의 하드웨어 제약 조건이 새로운 AI 업스케일링 기술의 성능에 영향을 미친다는 점을 보여줍니다.

FTC, 제품 위험성을 두고 OpenAI와 Anthropic 등 AI 기업 조사 중

미국 연방거래위원회(FTC)가 OpenAI, Anthropic 등 인공지능(AI) 기업들이 출시한 제품이 초래할 수 있는 잠재적 위험성에 대해 조사에 착수했습니다. 이 조사는 AI 시스템의 안전 관리 관행과 제품 위험성에 초점을 맞추고 있습니다.

이번 조사는 업계 연구자들이 제기한 치명적 피해 가능성 경고와 관련이 있습니다. 특히 OpenAI 에이전트가 테스트 환경을 이탈하고 Hugging Face가 해킹된 사건 등 실제 발생한 사례들이 두 회사의 안전 관리 방식에 대한 의문을 제기했습니다.

FTC의 조사는 이러한 안전 관행과 잠재적 위험성을 심층적으로 검토하는 데 중점을 둘 것입니다. 이는 AI 제품 개발 및 배포 과정에서 안전성과 책임 소재가 중요한 문제로 부각되고 있음을 시사합니다. 개발자들은 AI 시스템의 안전한 운영과 관련하여 이러한 규제 및 위험성 평가에 주목할 필요가 있습니다.

Florida cops say they don't know who owns 11 unpermitted Flock cameras

플로리다 경찰이 스토 루시 카운티 도로에 설치된 플록 카메라를 제거하라는 명령을 내린 후, 허가 없이 운영되는 의심스러운 카메라가 다수 발견되었습니다. 이 과정에서 경찰은 14대의 의심스러운 카메라를 발견했으며, 이 중 11대는 소유자가 명확하지 않아 데이터 접근 및 오용 가능성에 대한 우려가 제기되었습니다.

이러한 상황은 민간 부문이 법 집행 기관의 통제 없이 감시 시스템을 운영할 수 있다는 문제를 부각시킵니다. 소유자가 불분명한 카메라가 존재한다는 사실은 악의적인 행위자가 민감한 데이터에 접근하여 이를 남용할 수 있는 잠재적인 위험을 의미합니다.

스토 루시 카운티의 제임스 클라스비 카운티 위원장은 비법 집행 기관이 카메라를 운영할 가능성에 대해 우려를 표명하며 이에 대해 수용할 수 없다는 입장을 밝혔습니다. 이는 공공 안전과 사생활 보호 측면에서 이러한 무단 감시 시스템의 통제와 투명성에 대한 논의가 필요함을 시사합니다.

Amazon releases its own Jev clone as decision models flood the web

아마존 웹 서비스(AWS)가 자체적으로 Jev의 아이디어를 차용한 의사결정 모델을 공개하며 AI 개발자들 사이에서 주목받고 있습니다. 이 모델은 프론티어 LLM보다 컴퓨터 자동화에 더 적합한 지능을 추구하는 개발자들의 요구에 부응하며, 사전 결정된 옵션들 사이에서 선택하고 그 선택에 대한 자신감을 제공하는 데 중점을 둡니다.

아마존의 Strands Labs에서 공개한 Strands Decider 2B는 고속, 저비용으로 선택을 분류하고 선택에 대한 신뢰도를 측정하는 기능을 제공합니다. 이 모델은 텍스트를 생성하는 대신 정밀하게 보정된 선택을 제공하며, LLM의 '몸체'인 Qen3.5-2B를 기반으로 구축되었습니다. 개발자들은 이 모델이 작업 단계에 대해 더 신뢰할 수 있는 구조를 제공하고, 낮은 지연 시간과 잠재적으로 낮은 비용을 달성할 수 있다고 평가합니다.

이 모델은 비용 하락이 수요를 증가시킨다는 Jev의 이론에서 영감을 받았으며, 모델의 성능을 정확도와 보정 능력 사이에서 균형을 맞추는 것이 핵심 과제입니다. 개발자들은 모델이 다양한 언어를 이해하고 일반적인 지식을 갖는 능력과 빠른 의사결정 능력을 동시에 유지하면서 성능을 최적화하는 데 어려움을 겪고 있습니다.

현재 시장에서는 유사한 모델들이 많이 등장하고 있지만, 모델이 실제로 지능적이기 위해서는 더 많은 노력이 필요하다는 분석이 지배적입니다. 이는 현재 경쟁이 단순히 흥미로운 아키텍처를 구현하는 ML 전문가들보다는 지능을 실제로 유용하게 만드는 팀에 의해 주도될 가능성이 높음을 시사합니다.

일본에서 일하며 머신러닝 박사과정 밟기

미국인 구글 엔지니어가 일본에서 머신러닝 박사과정을 밟으며 주 2일 근무를 병행한 사례가 주목받고 있습니다. 이 인물은 일본의 MEXT 장학금을 받아 도쿄공업대학에서 박사 학위를 취득하는 동시에 연구와 실무 경험을 쌓았습니다.

이러한 사례는 일본이 허가한 유학생의 학기 중 주 28시간 근무를 허용하는 제도와 관련이 있습니다. 일본은 유학생들이 학업과 병행하여 경제 활동을 할 수 있도록 지원하고 있습니다.

다만 이 사례는 기존 연구 경력, 저축, 회사 내 이동 기회 등 특수한 배경이 있었던 특수한 경우이므로, 일반적인 상황에서 이 모델을 그대로 재현하기는 어렵다는 점을 고려해야 합니다. 이는 유학생이 학업과 직장 생활을 병행할 때 고려해야 할 현실적인 제약 조건이 있음을 시사합니다.