엔지니어를 위한 AI 기술 동향 — 2026년 10월 17일
오늘은 화려한 모델 발표보다 운영 단계의 과제가 두드러졌습니다. 오래 실행되는 에이전트를 어떻게 중단 없이 이어 가는지, 코드 실행을 어디까지 격리해야 하는지, 그리고 기능 검사를 통과한 코드가 왜 보안 검사에서는 무너지는지를 다룬 논의가 테크 커뮤니티에서 이어졌습니다. 추론 서빙 쪽에서는 멀티턴 대화의 첫 토큰 지연을 줄이는 방법도 구체적인 수치와 함께 공유됐습니다.
Pi Durable과 Codemode — 에이전트의 다음 과제는 '죽지 않는 실행'
Hacker News에서 주목받은 Pi 1.0 관련 글은 두 가지를 함께 짚었습니다. 하나는 도구 출력을 그대로 컨텍스트에 넣지 않고 코드로 계산해 필요한 결과만 남기는 Codemode 방식이고, 다른 하나는 체크포인트와 재생 정책을 갖춘 지속 실행(durable execution)입니다. 데모 단계에서는 에이전트가 중간에 멈춰도 처음부터 다시 실행하면 그만이지만, 실제 업무에서는 비용과 부작용이 누적됩니다. 설계자는 이제 프롬프트뿐 아니라 중단 지점, 재시도 정책, 재생 가능한 상태의 범위를 함께 설계해야 합니다. 출처: dev.to — Pi 1.0 분석
Pensieve — 코딩 에이전트에게 grep 전에 '로컬 인덱스'부터
10월 12일 Hacker News를 통해 소개된 Pensieve는 저장소와 작업 트리, 문서, 과거 세션을 로컬에 인덱싱해 MCP 검색으로 제공하는 검색 레이어입니다. 소개 자료에 따르면 작성자 자체 측정에서 도구 호출과 토큰 사용이 줄었다고 합니다. 다만 이 수치는 작성자 측정이라는 점을 감안해야 합니다. 엔지니어 관점의 핵심은 수치 자체보다 트레이드오프입니다. 큰 코드베이스에서는 사전 인덱싱이 탐색 비용을 낮추지만, 브랜치 전환과 파일 수정이 잦으면 인덱스의 신선도를 유지하는 비용이 생깁니다. 빠른 정확 검색 도구와 병행할지, 인덱스 갱신 시점을 어떻게 잡을지가 도입의 성패를 가릅니다. 출처: GitHub — Hacker News 일일 정리 (Pensieve 소개 포함)
Perplexity SPACE 오픈소스 — 샌드박스는 VM 격리와 네트워크 정책을 따로 봐야 한다
Perplexity는 10월 15일 자사 Computer 에이전트가 쓰는 샌드박스 플랫폼 SPACE를 Apache 2.0으로 공개했습니다. Firecracker 마이크로VM으로 코드를 격리하고 HTTP 인터페이스로 제어하는 구조입니다. 함께 공개된 보안 보고가 특히 실무적입니다. VM에서 호스트로의 탈출 시도는 보고된 범위에서 성공 사례가 없었지만, 일부 네트워크만 허용한 조건에서는 우회 사례가 확인됐고 이후 게이트웨이 방어를 보강했다고 합니다. 즉 샌드박스 평가는 '격리 성공' 한 줄로 끝나지 않습니다. 파일시스템, 자격 증명 보관 위치, 아웃바운드 정책 같은 경계를 각각 테스트 항목으로 분리해야 합니다. 출처: NeoTeo — Perplexity SPACE 정리
LSCBench가 드러낸 간극 — 기능 테스트 91%, 보안까지 안전한 코드는 25%
최근 소개된 Last Secure Code Benchmark(LSCBench)는 실제 취약점이 있던 코드를 에이전트에게 고치게 한 뒤, 기능 검사와 별도로 공격 관점의 보안 검사를 적용한 평가입니다. 소개 글에 따르면 가장 좋은 에이전트도 기능 측면에서는 높은 통과율을 보였지만, 보안까지 함께 만족한 비율은 크게 낮았습니다. 특정 라이브러리의 기본 설정을 그대로 쓰는 것 같은 사소한 선택 하나가 결과를 갈랐다는 사례도 제시됐습니다. 이는 평가 설계의 문제이기도 합니다. CI에 기능 테스트만 있으면 에이전트는 '동작하는 코드'를 최적화할 뿐입니다. 보안 회귀 테스트와 정적 분석을 같은 게이트에 넣어야 에이전트의 품질 기준 자체가 바뀝니다. 출처: dev.to — LSCBench 소개
vLLM 양방향 KV 전송 — 멀티턴 에이전트 서빙은 '왕복'으로 최적화된다
vLLM 블로그를 정리한 추론 엔지니어링 다이제스트는 10월 12일자 양방향 KV 전송을 주요 항목으로 다뤘습니다. 기존에는 KV 캐시가 프리필 노드에서 디코드 노드로만 흘렀지만, 새 방식은 다음 턴에서 디코드 노드가 이미 계산한 블록을 프리필 쪽으로 되돌려 접두사 재계산을 피합니다. 정리 글은 멀티턴 워크로드에서 첫 토큰 지연(TTFT)이 모델에 따라 개선됐다고 전합니다. 에이전트 세션은 턴마다 컨텍스트가 길어지므로, 단발 요청 기준의 벤치마크만으로는 실제 체감 성능을 알 수 없습니다. 서빙 설계에서는 캐시 지역성과 라우팅, 턴 사이 유휴 시간까지 함께 봐야 합니다. 출처: dev.to — LLM Inference Digest
Claude Dynamic Workflows — 서브에이전트 1,000개 시대, 오케스트레이션도 '프로그램'이 된다
Anthropic이 10월 9일 공개 베타로 내놓은 Dynamic Workflows는 리드 에이전트가 최대 1,000개의 서브에이전트를 병렬로 운용하는 기능으로 보도됐습니다. 특징은 오케스트레이션을 대화가 아니라 실행되는 프로그램 형태로 기술한다는 점입니다. 중간 결과를 코드로 다음 단계에 넘기므로, 대규모 코드 감사나 마이그레이션처럼 분할 가능한 작업에서 재현성과 통제가 쉬워집니다. 반대로 실행 시작 자체에 대한 권한 정책과 비용 상한을 어떻게 둘 것인지는 팀이 별도로 정해야 할 몫으로 남습니다. 병렬화는 처리량을 올리지만, 검증 단계가 병목이면 전체 품질은 그대로이기 때문입니다. 출처: Mike Gingerich — Dynamic Workflows 정리
오늘의 공통점은 명확합니다. 에이전트 시스템의 경쟁력은 모델 성능만이 아니라 지속 실행, 격리, 보안 평가, 서빙 최적화 같은 주변 설계에서 갈리기 시작했습니다.
