51
AI 제품을 만드는 Product Manager 관점의 글
AI 제품에서는 요구사항을 쓰는 방식 자체가 달라진다.
AI 제품을 만들기 시작하면 기존 방식으로는 요구사항이 어딘가 부족하다는 느낌을 받게 된다.
그 이유는.. AI 제품에서는 요구사항이 하나 더 필요하기 때문이다.
기존 제품에서 요구사항은 시스템이 어떻게 동작하는지를 정의하는 단계에서 주로 마무리 된다.
예를 들어 이커머스 추천 기능을 만든다고 가정해보면, 기존 제품에서 시스템 요구사항은 이런 형태로 작성된다.
- 추천 영역을 홈 화면 상단에 노출한다
- 추천 결과는 5개 노출한다
- 추천 상품 클릭 시 상세 페이지로 이동한다
- 최근 본 상품 기반 추천을 적용한다
이 요구사항들은 모두 시스템 동작 설명이다.
이 방식에서는 로직이 정해져 있고 시스템은 그 로직을 그대로 실행한다.
하지만 AI 제품에서는 시스템 동작 정의 이후, AI의 판단 기준이 추가로 필요하다.
AI는 정해진 규칙을 실행하는 것이 아니라 상황에 따라 스스로 판단하기 때문이다.
예를 들어 같은 추천 기능이라도 AI 제품에서는 이런 요구사항이 추가된다.
- 최근 행동보다 현재 구매 의도를 우선 고려한다
- 동일 상품 반복 추천은 제한한다
- 가격대가 너무 다른 상품은 제외한다
- 재고가 충분한 상품을 우선 추천한다
- 사용자의 과거 선호 브랜드를 반영한다
이건 시스템 동작 설명이 아니라 AI가 어떻게 판단해야 하는지를 정의한 기준이다.
AI는 이 기준들을 동시에 고려해 지금 이 사용자에게 가장 적절한 추천을 결정한다.
많은 팀이 AI 제품을 만들 때 프롬프트를 계속 수정하는 방식으로 문제를 해결하려 한다.
하지만 실제로는 AI가 어떤 기준으로 판단해야 하는지 제대로 정의되어 있지 않은 경우가 더 많다.
AI 요구사항이 정의되지 않으면
모델 성능 문제처럼 보이던 이슈가 사실은 제품 설계 문제였다는 것을 뒤늦게 발견하게 된다.
그래서 AI 제품에서는 요구사항이 다음과 같은 구조로 확장된다.
이미지. AI 요구사항 레이어
AI 요구사항은 기능 명세가 아니라, AI가 어떻게 판단해야 하는지를 구조적으로 정의하는 문서에 가깝다.
예를 들어 다음과 같은 요소들이 포함된다.
1. 입력 정보(Input): AI가 판단에 사용하는 정보/데이터
- 어떤 입력이 포함되느냐에 따라 AI 판단 품질이 달라진다
② 판단 맥락(Context): AI가 판단할 때 고려해야 하는 조건
- 같은 입력이라도 상황에 따라 다른 결과가 필요하기 때문이다
③ 판단 기준(Decision): 어떤 기준으로 선택하는가
- AI가 여러 옵션 중 무엇을 우선할지 결정해야 하기 때문이다
④ 결과 형태(Output): AI가 생성해야 하는 결과
- 출력 형식이 정의되지 않으면 UX가 불안정해진다
⑤ 가드레일(Guardrail): 반드시 지켜야 하는 규칙
- AI가 잘못된 방향으로 판단하는 것을 제한하기 위해 필요하다
⑥ 예외 대응(Fallback): AI 판단이 불확실할 때 대응 방식
- 신뢰도가 낮은 결과를 그대로 노출하지 않기 위해 필요하다
⑦ 신뢰도 기준(Confidence): AI 결과를 사용할 기준
- 어떤 수준 이상일 때만 자동 적용할지 정의해야 한다
⑧ 평가 기준(Evaluation): AI 성능을 판단하는 지표
- 좋은 결과의 기준이 없으면 개선 방향을 잡기 어렵다
⑨ 개선 데이터(Logging / Feedback): 이후 개선을 위한 데이터 수집
- AI 제품은 출시 이후 지속적인 학습과 개선이 필요하기 때문이다
이렇게 정리하면 AI 요구사항은 단순한 기능 설명이 아니라
AI가 어떻게 판단하고 동작해야 하는지에 대한 명확한 설계 기준이 된다.
즉, AI 제품 요구사항은 비즈니스, 사용자, 기능, 시스템 요구사항 위에서
AI는 무엇을 어떻게 판단하고 작동할 것인가를 정의한다.
그래서 AI 제품에서 PM의 역할은
AI가 어떤 기준으로 판단하고 작동해야
사용자의 문제가 해결되고, AI가 더 좋은 경험을 주는지까지 설계하는 것이 가장 중요해진다.
AI 제품에서는 AI가 어떤 판단을 내리도록 설계했는지가 제품의 핵심이 된다.
*브런치에서 더 많은 글을 보실 수 있습니다.
1
0