[ICT 시사용어] 컨텍스트 엔지니어링

Photo Image
생성형 AI 이미지

컨텍스트 엔지니어링은 인공지능(AI)이 답변을 생성하거나 작업을 수행하는 데 필요한 정보와 도구, 기억, 규칙 등을 적절하게 구성해 제공하는 기술이다. 사용자의 질문 문장을 다듬은 '프롬프트 엔지니어링'보다 범위가 넓다.

생성형 AI 초기에는 어떤 명령어를 입력하느냐가 결과물의 품질을 좌우했다. 하지만 AI가 단순 질의응답을 넘어 검색, 문서 분석, 일정 관리 등 여러 단계의 업무를 수행하는 'AI 에이전트'로 발전하면서 프롬프트만 잘 만드는 것으로는 부족해졌다. AI가 현재 어떤 작업을 하고 있는지, 앞선 단계에서 무엇을 수행했는지, 어떤 자료와 도구를 사용할 수 있는지까지 함께 제공해야 하기 때문이다.

컨텍스트에는 시스템 지침과 이용자의 질문뿐 아니라 과거 대화, 외부 문서, 검색 결과, 데이터베이스, 장기 기억, 애플리케이션프로그래밍인터페이스(API) 등 외부 도구에 관한 정보가 포함된다. 검색증강생성(RAG)을 통해 필요한 자료를 찾아 제공하거나 모델컨텍스트프로토콜(MCP)을 이용해 외부 서비스와 연결하는 것도 컨텍스트를 구성하는 방법이다.

핵심은 정보를 많이 넣는 것이 아니라 AI가 현재 작업에 필요한 정보를 정확하게 골라 전달하는 것이다. 관련성이 낮은 자료나 오래된 대화가 지나치게 많이 포함되면 중요한 정보가 묻히거나 서로 충돌해 답변 정확도가 떨어질 수 있다. 긴 문맥을 처리하는 데 필요한 연산량과 비용도 늘어난다. 이에 따라 필요한 정보는 불러오고, 중요도가 낮은 내용은 요약하거나 제거하는 과정이 중요해졌다.

컨텍스트 엔지니어링은 AI 에이전트 시대의 핵심 기술로 주목받고 있다. 여러 작업을 연속적으로 수행하는 AI가 확산할수록 모델 자체의 성능뿐 아니라 어떤 정보를 언제 제공하고 무엇을 기억하게 할 것인지가 결과의 품질을 좌우한다. AI 개발 경쟁이 더 큰 모델을 만드는 것에서 모델이 제대로 판단할 수 있는 '상황'을 설계하는 단계로 확대되고 있는 셈이다.


최다현 기자 da2109@etnews.com

  • 놓치면 아쉬운 정보AD

브랜드 뉴스룸