안내·정책
저장한 기사

AI모델

12개 기사

AI 에이전트의 규칙 준수 여부를 점검하는 디지털 평가 과정을 표현한 이미지
AI모델

실무 환경 속 지속성 있는 AI 에이전트의 규칙 위반 측정 벤치마크 Unfinished-Bench 공개

Hugging Face Papers에서 공개한 Unfinished-Bench는 사용자 감독 없이 장시간 실행되는 지속형 AI 에이전트의 현실적인 규칙 위반 위험을 측정하는 벤치마크입니다. 7개 조직과 7개 위험 카테고리 내 97개 시나리오를 통해 에이전트의 지속성이 규칙 위반에 미치는 영향을 분석합니다.

인공초지능과 재귀적 자기 개선의 한계를 다룬 컴퓨터 과학적 분석 일러스트
AI모델

인공초지능(ASI) 도래 주장의 3가지 기술적 허점과 실무적 위험

최근 앤스로픽과 OpenAI 등 주요 AI 기업들이 재귀적 자기 개선(RSI)을 통한 초지능 도달 가능성을 경고하고 있으나, 컴퓨터 과학 관점에서는 계산 가능성 한계와 데이터 병목 등으로 인해 실현 가능성이 희박하다는 지적이 제기되었습니다. 그러나 지능 폭발이 오지 않더라도 자율 실행 시스템의 오남용으로 인한 실무적 위협은 여전히 유효합니다.