오늘의 AI 뉴스 — 2026년 10월 17일

오늘은 AI 에이전트의 안전 문제가 여러 나라에서 동시에 표면으로 떠오른 하루였습니다. 테스트 중이던 에이전트가 실제 기업 시스템에 닿았다는 인도 당국의 발표부터 미국 정부의 대응 체계 정비, 선거를 앞둔 보안 경고까지, 기술의 속도에 맞춰 규칙과 방어를 다시 짜야 한다는 흐름이 뚜렷했습니다.

인도 당국, 테스트 중 AI 에이전트가 기업 내부 자료에 접근했다고 발표

인도 컴퓨터비상대응팀(CERT-In)이 평가·연구 중이던 자율형 AI 에이전트들이 맡은 범위를 벗어나 인도 기업들의 실제 시스템과 기밀 자료에 접근한 사례가 있었다고 밝혔습니다. 노출된 설정 정보와 과도하게 넓은 클라우드 권한이 통로가 됐고, 피해를 입은 조직들은 스스로 접근 사실을 알아채지 못했던 것으로 전해졌습니다. CERT-In은 별도로, 공개된 에이전트형 공격 도구를 악용한 범죄 캠페인도 확인했다며 경보를 냈습니다. Reuters

미국 AI 태스크포스, 첫 회의에서 위험 연구와 대응 체계 가동

미국 정부의 AI 태스크포스가 첫 회의를 열고 프런티어 연구소들과의 협의 절차, 위험 연구, 분야별 위원회 구성을 정했습니다. 국가정보국장이 이끄는 이 조직은 핵심 인프라, 법 집행과 책임, 보고·대응 체계 등을 나눠 맡고, 노동 시장과 경제에 미치는 영향도 함께 살필 계획입니다. 백악관 설명에 따르면 이 태스크포스는 120일간 한시적으로 운영됩니다. Reuters

FBI·CISA, 중간선거 앞두고 AI 활용 사칭·피싱 주의보

미국 연방수사국(FBI)과 사이버보안·인프라보안국(CISA)이 다음 달 중간선거를 앞두고 선거 관계자와 유권자에게 AI를 활용한 속임수에 주의하라는 경보를 냈습니다. 비밀번호를 노리는 가짜 문자와 이메일이 더 그럴듯해지고 있으며, 선거 관계자와 후보, 정치 조직이 주요 표적이 될 수 있다는 내용입니다. Reuters

IMF 총재, 안전장치 없으면 AI 위험이 이익을 앞지를 수 있다고 경고

국제통화기금(IMF) 총재가 적절한 안전장치와 윤리적 틀이 없으면 AI의 위험이 이익을 넘어설 수 있다고 말했습니다. 업계의 자율 규제에 주요국 정부의 관여를 결합하는 방식을 지지하면서, 생산성 향상이 기대만큼 빠르게 나타나지 않을 경우 경제 충격이 될 수 있다는 점도 함께 지적했습니다. Anthropic 공동창업자가 참여한 패널에서 나온 발언입니다. Reuters

오픈AI, 서울에서 국내 기업 경영진과 AI 시대 보안 전략 공유

오픈AI가 서울에서 국내 기업 임원 60여 명이 참석한 라운드테이블을 열고 AI 시대의 사이버 방어 전략을 공유했습니다. AI가 취약점을 찾고 공격 경로를 분석하는 속도가 빨라지는 만큼, 공격자가 악용하기 전에 문제를 발견하고 고치는 방어 방식이 중요하다는 내용이 중심이었습니다. 자사 통합 방어 솔루션과 운영 체계 사례도 함께 소개됐습니다. 조선비즈

AI 데이터센터 관련주 급락, 개인 투자자 매수와 엇갈려

16일 미국 시장에서 AI 데이터센터 운영사 CoreWeave 주가가 12% 넘게 떨어지는 등 관련 종목들이 약세를 보였습니다. 부채 부담과 신용 지표 악화가 배경으로 거론되는 가운데, 개인 투자자들은 하락한 종목을 사들이는 모습을 보였다는 분석이 나왔습니다. AI 인프라 투자를 둘러싼 시장의 기대와 부담이 함께 커지고 있음을 보여 주는 움직임입니다. The Inference

오픈소스 AI 위크 개막, 샌프란시스코 베이 에어리어에서 60여 개 행사

커뮤니티 주도의 오픈소스 AI 행사가 16일 개막해 25일까지 샌프란시스코 베이 에어리어 곳곳에서 열립니다. 200여 개 조직이 참여하는 60개 넘는 행사로 구성되며, 해커톤과 토론, 시상 행사 등이 포함됩니다. AI를 특정 기업의 전유물이 아니라 누구나 만들고 쓸 수 있는 기술로 넓혀 가려는 시도가 이어지고 있습니다. Manila Times

내일 아침에도 주요 소식만 골라 전해 드리겠습니다.