2022년 11월 ChatGPT가 공개된 뒤 생성형 인공지능(AI)은 대화 능력으로 대중의 시선을 사로잡았다. 방대한 데이터를 학습한 거대언어모델(LLM)이 질문에 답하고 글을 쓰며 정보를 요약하는 모습은 AI를 전문가의 연구 대상에서 누구나 사용하는 일상 도구로 바꿔 놓았다. OpenAI의 ChatGPT 공개 자료

이제 경쟁의 무게중심은 유창한 답변을 만드는 능력에서 복잡한 문제를 풀고 실제 작업을 수행하는 능력으로 이동하고 있다. 추론형 모델(Reasoning Model), 에이전틱 AI(Agentic AI), 피지컬 AI(Embodied AI)가 동시에 부상하는 흐름을 ‘AI의 2막’이라고 부를 만하다.

다만 이 표현을 AI가 인간처럼 생각하고 자율적으로 일할 수 있게 됐다는 선언으로 받아들여서는 곤란하다. 지금 벌어지는 변화의 핵심은 AI가 갑자기 인간과 같은 지능을 얻었다는 데 있지 않다. 더 많은 연산을 추론에 투입하고, 외부 도구와 연결하며, 감지와 행동의 범위를 물리적 환경으로 넓히고 있다는 데 있다.

더 오래 계산하는 추론형 AI

기존 LLM은 인간의 사고 체계에 빗대어 직관적이고 즉각적인 ‘시스템 1(System 1)’에 가깝다고 설명돼 왔다. 질문을 받으면 학습한 패턴에 따라 다음 토큰을 예측하며 곧바로 답을 생성했기 때문이다.

그러나 이 비유는 기술을 이해하기 위한 설명일 뿐, 모델의 구조를 정확히 구분하는 기준은 아니다. 추론형 모델 역시 기본적으로는 다음 토큰을 예측하는 언어모델이다. 기존 모델에도 일정한 추론 능력이 있었으며, 추론형 모델이 인간처럼 의식적으로 사고한다고 볼 근거도 없다.

실질적인 변화는 연산 자원을 사용하는 방식에 있다. 추론형 모델은 답변을 생성하는 과정에서 중간 추론 단계를 더 길게 전개하거나, 여러 답안 후보를 만들고, 검증 모델을 이용해 결과를 비교·수정한다. OpenAI는 o1 모델이 답변 전에 더 많은 연산을 사용할수록 수학과 코딩 등 추론 중심 평가에서 성능이 향상됐다고 밝혔다. 관련 연구에서도 질문의 난도에 맞춰 추론 시간 연산을 배분하면, 단순히 더 큰 모델을 사용하는 것보다 효율적일 수 있다는 결과가 나왔다. OpenAI의 o1 연구, 테스트 타임 컴퓨팅 연구 논문

그렇다고 계산을 오래 한다고 언제나 더 좋은 답을 얻는 것은 아니다. 추론 방식의 효과는 문제의 난도와 검증 방법에 따라 달라지며, 연산량이 늘면 비용과 응답 시간도 증가한다. 추론형 AI의 경쟁력은 ‘얼마나 오래 생각하느냐’보다 제한된 시간과 비용 안에서 어떤 문제에 얼마나 많은 연산을 배분하고, 결과를 어떻게 검증하느냐에 달려 있다.

따라서 AI 성능을 판단하는 기준도 달라져야 한다. 정답률만 볼 것이 아니라 답변에 투입한 연산 비용과 처리 시간, 오류를 발견하고 수정하는 능력까지 함께 평가해야 한다.

답변하는 챗봇에서 도구를 사용하는 에이전트로

추론 능력의 향상은 AI가 대화창 밖에서 일할 수 있는 토대가 된다. 에이전틱 AI는 사용자의 목표를 세부 작업으로 나누고, 필요한 도구를 선택해 실행한 뒤, 그 결과를 확인하고 다음 행동을 결정한다.

예를 들어 사용자가 “A 프로젝트의 시장을 조사하고, 보고서를 프레젠테이션으로 만든 뒤 팀원들에게 이메일로 공유해 달라”고 요청하면 AI는 검색과 자료 분석, 문서 작성, 파일 생성, 이메일 발송을 차례로 수행할 수 있다. 핵심은 답을 설명하는 데서 끝나지 않고 외부 시스템을 조작해 상태를 바꾼다는 점이다.

다만 미리 정해진 순서대로 작동하는 ‘워크플로’와 AI가 작업 순서와 도구를 스스로 선택하는 ‘에이전트’는 구분할 필요가 있다. 워크플로는 예측 가능성이 높고, 에이전트는 예상하지 못한 상황에 유연하게 대응할 수 있지만 오류의 범위도 넓어진다. 실제 서비스에서는 두 방식을 결합하고 중요한 단계마다 사람의 승인을 받는 형태가 현실적이다. Anthropic의 에이전트 설계 설명

에이전트의 성능은 빠르게 좋아지고 있지만 아직 인간의 감독을 없앨 단계는 아니다. 스탠퍼드대 ‘AI 인덱스 2026’에 따르면 운영체제 작업을 평가하는 OSWorld에서 최고 성능은 약 66.3%까지 올랐지만, 구조화된 에이전트 평가에서도 전체 시도의 약 3분의 1은 실패했다. 전문 분야 평가에서도 높은 점수를 기록하는 모델이 등장했으나, 높은 신뢰성이 필요한 실제 업무에서는 여전히 성능 격차가 남아 있다. 스탠퍼드 AI 인덱스 2026

따라서 가까운 미래의 변화는 AI가 직업 전체를 한꺼번에 대체하는 모습보다, 직업을 구성하는 개별 업무가 다시 배분되는 형태로 나타날 가능성이 크다. AI가 조사와 초안 작성, 반복 작업을 맡고 인간이 목표 설정과 예외 판단, 최종 승인과 책임을 맡는 방식이다. 에이전틱 AI가 바꾸는 것은 단순한 생산성 수치가 아니라 업무의 설계와 책임의 경계다.

로봇의 눈과 손을 연결하는 피지컬 AI

AI의 활동 영역은 디지털 환경에만 머물지 않는다. 이미지와 음성, 영상 등 여러 형태의 정보를 이해하는 멀티모달 기술이 공간 인지 및 로보틱스와 결합하면서 피지컬 AI로 발전하고 있다.

그 중심에는 비전-언어-행동 모델(VLA·Vision-Language-Action)이 있다. VLA는 카메라로 들어온 시각 정보와 언어 명령을 해석해 로봇의 행동 명령으로 변환한다. 구글 딥마인드는 2025년 공개한 Gemini Robotics에 물리적 행동을 새로운 출력 방식으로 추가해 로봇을 직접 제어할 수 있도록 했다고 설명했다. Google DeepMind의 Gemini Robotics 자료

기존 산업용 로봇이 구조화된 환경에서 미리 입력한 동작을 정확하게 반복하는 데 강했다면, VLA 기반 로봇은 새로운 물체와 명령, 환경 변화에 대응하는 범용성을 목표로 한다. 제조와 물류처럼 작업 공간과 절차를 비교적 명확히 통제할 수 있는 분야에서 활용 가능성이 먼저 커지는 이유다.

그러나 시연 영상과 실제 현장의 거리는 아직 멀다. AI 인덱스 2026에 따르면 로봇은 시뮬레이션 기반 조작 평가에서는 높은 성능을 보였지만, 실제 가정환경 작업의 성공률은 12%에 그쳤다. 조명과 물체의 위치, 사람의 움직임이 계속 바뀌는 현실에서는 작은 인식 오류도 행동 실패나 안전사고로 번질 수 있다. 스탠퍼드 AI 인덱스 2026

피지컬 AI가 가사 노동까지 폭넓게 맡는 미래는 가능성의 영역에 있다. 현재 확인되는 변화는 범용 가정용 로봇의 완성보다, 통제된 환경에서 수행할 수 있는 작업의 종류가 점차 늘어나는 단계에 가깝다.

커지는 전력 수요와 효율의 역설

추론과 행동 능력을 높이려면 더 많은 연산 자원이 필요하다. 이는 AI의 성능 경쟁을 반도체와 데이터센터, 전력망의 문제로 확장한다.

국제에너지기구(IEA)에 따르면 세계 데이터센터는 2024년 약 415테라와트시(TWh)의 전력을 소비했다. 세계 전체 전력 소비량의 약 1.5%다. IEA의 기본 시나리오에서는 이 수요가 2030년 약 945TWh로 두 배 이상 늘어 세계 전력 소비량의 3%에 가까워질 것으로 전망된다. AI용 가속 서버가 증가분의 주요 원인 가운데 하나다. IEA ‘Energy and AI’ 보고서

그렇다고 데이터센터의 전력 소비를 모두 AI 탓으로 돌려서는 안 된다. 클라우드와 스트리밍 등 다른 디지털 서비스도 전력을 사용한다. 세계 전체에서 차지하는 비율만 보면 데이터센터 수요는 여전히 제한적이지만, 시설이 특정 지역에 집중되기 때문에 지역 전력망과 발전 설비에는 훨씬 큰 부담을 줄 수 있다. 탄소 배출 규모 역시 전력 생산에 어떤 에너지원을 사용하는지에 따라 달라진다.

소형 언어모델과 온디바이스 AI, 고효율 반도체가 중요한 이유도 여기에 있다. 다만 한 번의 작업에 필요한 전력을 줄인다고 전체 소비량까지 반드시 감소하는 것은 아니다. 서비스 이용량이 효율 향상보다 빠르게 늘면 총전력 소비는 계속 증가할 수 있다. 결국 모델의 효율뿐 아니라 어떤 작업에 어느 정도의 AI 성능이 필요한지 따지는 운용 기준이 함께 마련돼야 한다.

‘안전장치’만으로는 부족한 거버넌스

AI가 텍스트만 생성할 때는 잘못된 답을 사람이 걸러낼 여지가 비교적 컸다. 에이전트가 파일을 수정하고 결제를 요청하거나 로봇이 물리적으로 움직이는 환경에서는 오류가 곧바로 현실의 손실로 이어질 수 있다.

이 단계에서 필요한 것은 금지어를 걸러내는 수준의 단순한 안전장치가 아니다. AI가 접근할 수 있는 데이터와 도구의 범위를 제한하고, 중요한 행동에는 사람의 승인을 요구하며, 모든 실행 과정을 기록해야 한다. 이상 행동을 감지하면 작업을 중단하고 이전 상태로 되돌릴 수 있는 절차도 필요하다.

미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크 역시 AI의 사용 범위와 지식 한계를 문서화하고, 인간의 감독 절차와 책임 주체를 명확히 하며, 실제 운영 환경에서 성능과 안전성을 지속적으로 점검할 것을 권고한다. NIST AI 위험관리 프레임워크

거버넌스는 기술 개발이 끝난 뒤 덧붙이는 규제가 아니다. 누가 AI에 어떤 권한을 부여할지, 어느 단계에서 사람의 승인을 받을지, 사고가 발생하면 누가 책임질지를 제품과 업무 설계 단계에서 정하는 일이다. AI가 유능해질수록 인간이 모든 단계를 직접 확인하기는 어려워진다. 역설적으로 자율성이 커질수록 더 정교한 권한 관리와 책임 구조가 필요하다.

인간에게 필요한 것은 질문보다 ‘판단의 기준’

AI가 발전할수록 인간에게 질문하는 능력이 중요해진다는 말은 절반만 맞다. 질문을 잘 작성하는 것만으로는 에이전트가 수행한 복잡한 작업의 품질과 안전을 보장할 수 없다.

앞으로 인간에게 필요한 능력은 해결할 문제를 정의하고, 성공과 실패의 기준을 세우며, AI가 넘지 말아야 할 경계를 정하는 능력이다. 결과를 검증하고 예외 상황을 판단하며 최종 결정에 책임지는 역할도 사람에게 남는다.

‘생각하고 실행하는 AI’의 등장은 지능이 완성됐다는 뜻이 아니다. 언어모델에 추론 연산과 도구, 센서와 구동 장치가 결합하면서 AI가 관여할 수 있는 업무의 범위가 넓어졌다는 뜻에 가깝다.

인공지능의 2막을 결정할 질문도 여기에 있다. AI가 어디까지 할 수 있는지가 아니라, 우리는 AI에 어디까지 맡길 준비가 돼 있는가. 기술의 속도만큼 권한과 검증, 책임의 설계가 중요해지는 시점이다.