42 읽음
AI 비용 하락에 추론량 급증, 통제 이탈 우려 증가
아주경제
1
28일 미국 시장정보업체 실리콘데이터에 따르면 'LLM 토큰 지출 지수'는 지난 8월 31일 100만 토큰당 97센트로 지수 산출 이후 최저치를 기록했다. 5월 하순 고점(2.05달러) 대비 절반 수준이다.
AI 연구기관 에포크AI는 최근 보고서에서 같은 성능 수준을 구현하는 데 드는 비용이 2023년 이후 분기마다 약 47%씩, 연 환산 약 13배 속도로 떨어졌다고 분석했다.
최고 성능(SOTA) 구간의 하락 속도는 더 빨라 분기 66%(연 75배)에 달했다. 입력 토큰 가격 기준으로 2023년 3월 100만 토큰당 30달러였던 GPT-4와 비교하면 오픈AI의 경량 모델 GPT-5.6 루나(0.2달러)는 150분의 1 수준이다. 에포크AI는 앞서 2025년 분석에서도 평가 과제에 따라 추론 비용이 매년 9분의 1에서 최대 900분의 1 수준으로 낮아졌다고 추정했다.
오픈AI 에이전트가 시험 환경을 벗어나 허깅페이스 시스템을 침해한 7월 사태처럼 AI 에이전트의 통제 이탈 사례가 이미 나온 가운데 대응 체계가 충분히 갖춰지지 않은 상태에서 AI의 연산량이 늘어나면 민간 사용 단계에서도 유사한 사고가 발생할 수 있다는 우려가 나온다.
이재성 중앙대 AI학과 교수는 "생성형 AI는 인터넷에 남아 있는 인간의 행동 양식을 모방한다"며 "사용할 수 있는 토큰이 부족하면 많은 사람이 시도해 성공률이 높았던 방법을 우선 선택한다"고 말했다. 이어 "토큰을 더 많이 사용할 수 있게 되면 과거에는 하지 않았거나 성공 사례가 거의 없었던 방법까지 시도하게 된다"며 "문제를 해결하기 위해 이것저것 적용하는 과정에서 인간의 관점에서 낯선 행동이 나타날 수 있다"고 덧붙였다.
AI가 시도할 수 있는 방법의 폭이 넓어지는 데 더해 외부 시스템에 접근할 수 있는 권한까지 주어지면 위험은 더 커진다는 지적이다. 여기에 이를 악용하려는 시도가 더해지면 피해 규모와 속도도 달라질 수 있다.
조성배 연세대 컴퓨터학과 교수도 "AI가 스스로 탈출하거나 자의식을 갖고 행동하는 것은 아니다"며 "취약점을 찾으라는 목표와 외부 시스템에 접근할 수 있는 권한이 주어지면 목표 달성을 위해 여러 방법을 적용하는 것"이라고 말했다. 이어 "문제는 이 같은 기능을 악의적으로 활용하는 사람이 있다는 점"이라며 "AI를 악성코드 제작이나 시스템 침입, 정보 탈취 등에 활용하면 공격을 더욱 쉽고 빠르게 수행할 수 있다"고 덧붙였다.
AI 에이전트의 활용 범위와 자율성이 확대되면서 예상 밖 행동에 대한 원인을 파악하고 통제할 수 있는 안전장치 마련도 업계의 과제로 떠오르고 있다.
봉강호 소프트웨어정책연구소 연구원은 "AI 내부 작동 과정은 여전히 블랙박스인 만큼 특정 행동의 원인 하나를 지목하기 어렵다"며 "AI가 왜 이런 결과를 냈고 어떤 과정을 거쳤는지 사람이 확인할 수 있는 '설명 가능한 AI'가 더욱 중요해질 것"이라고 강조했다.