이번에 Sam Altman이 공개한 새로운 OpenAI 업데이트에 왜 그렇게 다들 열광하는걸까요?

개인적으로 가장 중요하게 생각했던 두가지, GPTs와 Assistant API를 소개해드릴게요.

GPTs

개인적으로 가장 기대되는 것은 GPTs입니다.

스마트폰이 처음 출시되고 나서 앱스토어가 처음 생겼을때와 비슷하게 이번에는 AI native 앱들을 올릴 수 있는 AI store라는 것을 발표했어요. 샘 알트먼은 AI store에 올라오는 GPT들 중에서 인기가 많고 가장 활용성이 높은 GPT들에겐 일부 수익 공유를 한다고 하더라구요.

여기서 말하는 GPTs들은 어떤걸까요?

저희가 커스텀으로 만들 수 있는 챗GPT입니다. 샘 알트먼이 예시로 든 것은 Startup Advisor라는 것인데, YC에 있을 당시 스타트업 파운더들에게 해줬던 조언들을 바탕으로 자신의 lecture 내용을 GPT에게 학습시켜서 누구든 이 샘 알트먼의 "복제" 클론인 GPT에게 질문을 할 수 있게끔 만든겁니다.

가장 놀라웠던 것은 OpenAI가 최대한 제품을 코딩을 할 줄 모르는 분들을 고려해서 만들었다는 점이었습니다. 이 모든 것을 코딩 없이도 바로 자연어 프롬프트와 클릭 몇번으로 바로 만들 수 있다는 것입니다. 학습시킬 파일도 그냥 클릭 한번으로 업로드하면 GPT가 바로 학습하고 그거에 맞는 질문을 할 수 있게 만들었어요.

데모에서 보여줬던 다른 예시들은 GPT를 슬랙이나 구글 캘린더와 연결해서 나만의 개인 비서를 만드는 것이었습니다. Canva를 연결해서 원하는 포스터나 피피티를 바로 텍스트로 이미지생성을 할 수 있고, Zapier를 연결해서 내가 원하는 업무 자동화 플로우를 바로 할 수 있는거죠.

Assistant API

두번째로 가장 중요하게 봤던 업데이트는 Assistant API입니다.

이게 어떤 기능인지 한번에 이해시켜주는게 DevDay때 데모로 보여준 여행 AI Assistant입니다.

새롭게 나온 기능들이 3가지가 있는데, code interpreter, knowledge retrieval, function calling 입니다.

Code Interpreter

Code interpreter는 예를 들어서 내가 AI한테 내 비행기 티켓과 에어비앤비 예약완료 파일을 업로드 한 다음에, 총 4명의 친구와 함께 여행을 간다고 한다면 1인당 드는 비용이 얼만지 계산해달라고 했을때 AI가 바로 계산을 해주는 기능입니다. 예전에는 이걸 계산하기 위해서 개발자가 일일이 코드를 짰어야하는데, 이제는 AI가 어떻게 계산을 해야하는지 이해를 해서 그에 맞는 계산 함수를 짜서 대신 해준다는 것입니다.

Knowledge Retrieval

Knowledge retrieval은 말그대로 어떠한 형식의 파일을 올려도 AI가 필요한 정보들을 긁어와서 그에 맞는 질문을 할 수 있다는 것입니다. 예를 들어 제가 전 글에서 만들었던 고객 서비스 상담 챗봇을 만들기 위해 .html파일을 올렸던 것처럼, 이것도 올리면 바로 Q&A 챗봇을 만들 수 있다는 것입니다.

기존과 달라진게 있다면 일단 저는 주로 랭체인을 사용했기 때문에, .txt 파일을 불러올때랑 .pdf 파일 내용을 불러올때랑 다른 함수를 써서 귀찮았었는데, 이제는 그거와 별개로 그냥 바로 아래 코드블록으로 불러올 수 있어요.

엄청 다양한 파일들을 지원하게 돼서 편하더라구요. 어떤 파일들을 지원하는지는 platform.openai.com/docs/assistants/tools/supported-files에서 확인하세요!

Function Calling

마지막으로 function calling은 여러 use case가 있는데, 내가 만드는 Assistant에 다른 챗GPT 플러그인 api를 사용하고 싶거나, 아님 비정형화된 데이터를 정형화된 데이터로 변환해주는 기능 등이 있습니다.

위 사진에서는 파리 여행을 갈때 꼭 들려야하는 명소들을 오른쪽의 지도에 바로 표시해주는 함수를 따로 만들었더라구요.

Assistant는 어떻게 구현하는지?

OpenAI documentation도 새롭게 업데이트가 됐어요. Assistant라는 섹션을 가면 어떻게 이 api를 활용하는지 쉽게 설명해주고 있습니다. 단계별로 어떻게 구현하는지 빠르게 설명드릴게요.

#1 Assistant 만들어주기

처음에는 Assistant를 셋업해줍니다. 랭체인과 사뭇 비슷한 형식인데, 셋업하는 코드 양이 훨씬 줄었어요. name에는 assistant 이름을 넣어주고, instructions에는 랭체인에서 프롬프트 셋업을 할때와 비슷하게 여기에 어떤 assistant인지 설명해주고 있습니다.

특히나 tools에서는 위에서 설명한 code_interpreter를 쓸건지, retrieval을 쓸건지, function_calling을 쓸건지에 따라 바꿔주면 되고, model에는 사용하고 싶은 gpt 모델을 알려주면 됩니다.

#2 Thread 만들기

저번 글에서 AI 에이전트와 대화를 할때 대화 내용을 기록할 수 있게 하는 memory 변수를 세팅해준 것 기억하시나요? 이젠 그런 셋업도 필요없이 그냥 쓰레드 하나 만들어서 유저가 질문할때마다 메세지를 그 쓰레드에 하나씩 추가하는 형식으로 구현하고 있습니다.

#3 Thread에 메세지 추가하기

위에서 만든 Thread에 이제 이 메세지가 추가되고, 대화 내용들이 다 기록되기 시작합니다.

#4 Assistant 실행하기

마지막으로 그냥 실행시켜주면 끝!

#5 메세지 결과 보여주기

다음 블록들을 하나씩 실행해주면 결과가 보입니다.

Playground에서 테스트해보기

이제 위에서 방금 만든 Assistant는 실제로 platform.openai.com/assistants로 가면 새롭게 생성된게 보이고, 직접 얘를 테스트해볼 수 있어요. 코드에서 만든대로 Assistant가 셋업 된걸 확인할 수 있습니다. 오른쪽에는 Log들도 확인할 수 있어요!

앞으로의 사업 방향?

이런식으로 좀 빠르게 업데이트가 된 기술들이랑 documentation을 확인해봤어요.

사실 가장 우려되는 점들은 앞으로 스타트업들이 어떻게 살아남아야할지와, 이런식으로 foundation model들이 계속 업데이트를 하면 내가 만들고 있던 제품이 하루아침에 경쟁력을 아예 잃어버릴 수도 있는데 뭘 해야할지 고민하게 될 것 같아요.

제가 전 글들에서 우려했던게 현실이 된 것 같기도 하고요. 

계속 이것에 대해서 고민을 하고 더 많은 분들한테서 얘기를 듣고 싶습니다. 댓글 달아주시거나 10X AI Club 오픈채팅방에서도 많은 얘기를 나누고 있으니 클럽 참여하시면 초대링크 보내드리겠습니다!

다음 글..

다음글은 이제 새롭게 추가된 Assistant API를 사용해서 실제 개발까지 해보는걸 다룰 예정입니다! 많은 기대 부탁드리겠습니다 :)