인공지능 기술의 패러다임이 바뀌고 있습니다. 챗GPT가 쏘아 올린 거대언어모델(LLM)의 시대가 사용자의 질문에 답하는 수동적인 시대였다면, 이제는 스스로 계획을 세우고 도구를 사용해 과업을 완수하는 ‘AI 에이전트(AI Agent)’의 시대로 급격히 전환되고 있습니다.

하지만 기술의 진화 속도에 비해, 이를 보호해야 할 특허 전략은 여전히 모호한 회색 지대에 머물러 있는 경우가 많습니다. AI 에이전트는 알고리즘, 시스템 제어, 비즈니스 모델이 혼재된 복합적인 성격을 띠기 때문입니다.

본 칼럼에서는 최신 심사 가이드라인과 글로벌 리더인 구글의 최신 특허 포트폴리오를 분석하여, AI 에이전트 서비스의 특허 확보를 위한 핵심 전략을 제시하고자 합니다.

1. 추상성을 탈피하라: ‘결과’가 아닌 ‘과정의 최적화’를 선점

특허 심사에서 가장 먼저 던지는 질문은 “이것이 단순한 소프트웨어 알고리즘이나 추상적 아이디어가 아닌가?”입니다. 단순히 “여행 경로를 짜주는 AI”나 “회의를 요약하는 에이전트” 식의 접근은 백전백패입니다. 성립성을 인정받기 위해서는 구체적인 기술적 수단과 하드웨어의 결합을 증명해야 합니다.

구글의 ‘자동화 어시스턴트 오케스트레이션(US11031007B2, Orchestrating execution...)’ 특허에서 구글은 단순히 “사용자의 명령을 수행한다”고 청구하지 않았습니다. 대신 “다중 액션의 실행 순서를 머신러닝으로 최적화하고, 지연과 리소스 낭비를 줄이도록 우선순위를 조정하는 메커니즘”을 구체화했습니다.

특허 명세서에는 AI가 무엇을 하느냐(What)보다, 어떻게(How) 시스템 리소스를 절약하고 데이터 처리 효율을 높이는지가 담겨야 합니다. 미국(USPTO)에서는 이를 ‘기술적 개선(Technological Improvement)’이라 하며, 유럽(EPO)에서는 ‘기술적 성격(Technical Character)’이라 부르며 등록의 필수 요건으로 봅니다.

2. ‘할루시네이션’을 잡는 제어 로직을 권리화하라

AI 에이전트의 신뢰성은 기업의 사활이 걸린 문제입니다. 따라서 AI의 판단을 검증하고 오류를 수정하는 ‘제어 로직’ 자체가 강력한 특허 소재가 됩니다. 이는 특히 지식재산처가 요구하는 ‘구체적 수단’과 ‘상관관계’ 입증에 유리합니다.

구글은 강화학습 과정에서 발생할 수 있는 ‘망상 편향’을 완화하는 기술을 특허로 등록했습니다(US11915130B2). 에이전트가 잘못된 행동을 선택하지 않도록 소프트 일관성 패널티를 부여하고 다중 Q-함수를 탐색하는 구체적인 수식을 권리화 한 것입니다.

단순히 정확도가 높은 AI라고 주장하지 마십시오. ‘중간 추론 단계를 검증기(Verifier) 모듈이 평가하고, 신뢰도가 낮으면 재계획하는 프로세스’와 같이, 에이전트의 사고 과정을 제어하는 구체적인 알고리즘 흐름을 특허화해야 합니다.

3. 멀티 에이전트 시대, ‘오케스트레이션’으로 특허성 확보하기

단일 에이전트의 한계를 넘어, 여러 에이전트가 협업하는 멀티 에이전트 시스템이 부상하고 있습니다. 여기서 핵심은 누가 지휘자 역할을 하느냐입니다.

구글은 회의 상황에서 가상 어시스턴트가 참가자의 발화를 분석하고 적절한 타이밍에 개입하는 UI/UX 흐름(US20250028579A1)을 출원했습니다. 또한, 오프폴리시 평가를 통해 에이전트의 정책 성능을 배포 전에 검증하는 프레임워크(US11477243B2)도 확보했습니다.

멀티 에이전트 시스템 특허는 ‘오케스트레이션(Orchestration)’에 집중해야 합니다. 상위 에이전트가 하위 에이전트에게 작업을 할당하고, 충돌을 해결하며, 결과를 취합하는 통신 프로토콜과 공유 메모리 관리 기술을 선점이 필요합니다.

4. 침해 입증을 고려한 ‘서버 중심’ 청구항 설계

아무리 훌륭한 기술도 특허 청구항을 잘못 쓰면 휴지 조각이 됩니다. 특히 AI 서비스는 [사용자] - [네트워크] - [서비스 서버] - [외부 API]가 복잡하게 얽혀 있어, 자칫하면 경쟁사가 “우리는 서버만 운영할 뿐”이라며 책임을 회피할 수 있습니다.

이를 방지하기 위해 ‘서비스 서버’를 단일 주체로 하는 청구항을 설계해야 합니다.

“사용자가 단말에 입력하면, 서버가 처리하고, 외부 API가 데이터를 준다.”와 같은 침해 주체가 모호한 표현보다, “사용자 단말로부터 요청을 수신하는 통신부, 요청을 하위 작업으로 분해하고 도구를 선택하여 실행 계획을 생성하는 프로세서, 실행 결과를 단말로 전송하는 출력부를 포함하는 서버.”와 같이 단일 주체로 청구항을 작성하는 것이 바람직합니다

AI 에이전트 기술은 이제 연구실을 떠나 비즈니스 현장으로 깊숙이 들어왔습니다. 구글의 사례에서 보듯, 글로벌 선도 기업들은 이미 단순한 아이디어를 넘어 시스템 최적화, 오류 제어, 데이터 파이프라인(증강 정책 등) 과 같은 세부적인 기술 모듈 단위로 촘촘한 특허망을 구축하고 있습니다.

우리 기업들도 “AI를 쓴다”는 것에 만족하지 말고, “어떤 하드웨어 구조 위에서, 어떤 데이터 흐름으로, 어떤 기술적 문제(속도, 정확성, 비용)를 해결하는가”를 명세서에 집요하게 서술해야 합니다. 지금 구축하는 특허 포트폴리오가 향후 10년, 귀사의 AI 에이전트 서비스의 향방을 결정할 것입니다.

BLT 칼럼은 BLT 파트너변리사가 작성하며 매주 1회 뉴스레터를 통해 발행됩니다.
뉴스레터 구독신청

필자 소개
박연수 파트너 변리사/변호사는 서울대 생물교육학과를 졸업하고 2009년 변리사 시험, 2012년 변호사 시험에 합격하였습니다. 생명공학, 약학 및 화학 분야 국내 및 해외 기업의 특허 업무 전반에 대하여 전문성을 가지고 업무를 수행해 왔으며, 국내 바이오 기업에서 IP 전략 수립, 국내외 IP 소송 업무를 담당한 바 있습니다. 현재, 화학 바이오 분야 특허출원 업무 및 저작권을 포함한 지식재산권 전반에 걸쳐 다루어지는 법률 자문 및 분쟁에 대한 대응 업무를 담당하고 있습니다.

특허법인 BLT
누군가는 특허를 만들 때, BLT는 당신의 사업의 성공을 만들어 냅니다. The Only Firm for Your Success!!

원문 보러가기

#AI에이전트 #특허전략 #구글 #오케스트레이션 #할루시네이션 #멀티에이전트 #성립성 #청구항 #생성형AI #LLM #거대언어모델 #강화학습 #AI서비스 #구글특허 #AI특허 #특허 #지식재산권 #특허법인 #변리사