826
안녕하세요, 생성형 AI 서비스 전문 개발 에이전시 Beformed 팀입니다.
- 대기업부터 초기 스타트업까지 다양한 기업의 AI 서비스 개발 및 컨설팅
- AutoGPT 글로벌 AI 해커톤 5,000개 팀 중 1위 수상
- 세계 최초 OpenAI 해커톤 Finalist 선정
현재 Beformed 에서 무료 AI 도입 컨설팅을 진행하고 있습니다. (~6/7)
지난번 100명 이상 신청해주신 '무료 AI 도입 컨설팅'을 다시 진행하게 되었습니다. 😊
아래와 같은 어려움을 겪고 계신 분들은 아래 링크로 신청해주세요.
- 이미 매출이 발생 중인 비즈니스를 디지털화하여 더 큰 성장을 이루고 싶으신 분
- 생성형 AI를 활용해 혁신적인 서비스를 개발하고 싶으신 분
- AI로 기업 내부 프로세스를 효율화하고 개선하고 싶으신 분
저희가 그 동안 ‘생성형 AI 서비스’를 만들며 느꼈던 생성형 AI 서비스가 필요한 진짜 이유와 제작 시 꼭 알아야 할 점에 대해 말씀드려볼게요!
‘생성형 AI 서비스’ 그게 뭔데?
먼저, '생성형 AI 서비스'란 무엇일까요?
간단히 말해, 'ChatGPT를 활용한 서비스'를 의미합니다.
물론, 텍스트뿐만 아니라 이미지, 동영상, 목소리, 음악 등 다양한 결과물을 생성해내는 AI를 활용한 서비스를 통틀어 이렇게 부르고 있죠.
요즘 왜 그렇게 핫한건데?
그렇다면 이 기술이 왜 이렇게 큰 관심을 받고 있을까요?
그 이유는 바로 이전의 기술 혁명에서 찾을 수 있습니다.
이런 큰 기술 혁명이 일어나는 이유는 기존 기술로는 해결되지 않던 문제들을 새로운 기술이 해결할 수 있기 때문입니다.
예를 들어, 1~20년 전만 해도 물건을 사려면 직접 오프라인 매장에 가는 수밖에 없었죠.
하지만 '웹'의 등장으로 집에서도 온라인 구매가 가능해졌고, '모바일'로 인해 언제 어디서나 쇼핑이 가능한 세상이 되었습니다.
그리고 이런 기술 혁명은 언제나 시장의 크기 자체를 키워왔죠.
하지만, 이런 기술 혁명이 이미 오래 지난 지금 IT 서비스 시장은 기존 기술로 해결할 수 있는 서비스는 어느정도 다 나온 포화상태입니다.
대부분의 큰 시장은 이미 빅테크 기업들이 차지하고 있고, 스타트업들은 작은 영역에서 시작해 조금 커지면 더 큰 기업에 인수되는 것이 주된 전략이 되어버렸죠.
바로 이런 상황에서 'ChatGPT'가 등장했습니다!
'ChatGPT'는 '생성형 AI'가 기존 기술로는 해결하지 못했던 문제들을 해결할 수 있다는 가능성을 보여주었습니다.
기존의 구글 검색에서는 사용자가 직접 여러 검색 결과를 일일이 찾아보며 원하는 정보를 얻어야 했지만, ChatGPT는 이 과정을 생략하고 한 번에 원하는 결과를 제공해주었죠.
그러자 전 세계적으로 '생성형 AI'에 대한 폭발적인 관심이 시작되었습니다.
AI 서비스 개발이 쉬워졌다?
뿐만 아니라, 여기에는 또 다른 중요한 계기가 있었습니다.
바로 'AI 모델의 API화'에요.
OpenAI를 필두로 많은 LLM(텍스트 생성형 AI) 기업들이 자체 개발한 AI 모델들을 *API 형태로 제공하기 시작했습니다.
* API란 다른 곳에서 처리된 데이터를 우리 서비스로 가져오는 방법입니다. 예를 들어 OpenAI의 GPT API는 AI 모델이 생성한 답변을 우리 서비스에 전달해주는 기능을 합니다.
과거의 AI 서비스 개발은 매우 복잡한 과정을 거쳐야 했습니다.
먼저 적합한 기반 AI 모델을 찾고, 이를 자체 데이터로 재학습시켜 서비스에 맞게 커스터마이징한 뒤, API 서버를 직접 구축해야 했죠.
한 마디로 상당한 시간과 노력을 필요로 했습니다.
그러나 이제는 이런 번거로운 절차 없이도 범용적으로 높은 성능을 내는 AI 모델을 API 형태로 바로 사용할 수 있게 되었습니다.
심지어 AI 개발자가 없는 기업도 AI 서비스를 만들 수 있는 환경이 조성된 것이죠.
이로 인해 수많은 기업들이 AI 서비스 개발에 뛰어들었고, 보다 창의적이고 실용적인 사례들이 속속 등장하고 있습니다.
누구나 만들 수 있게 했지만, 누구나 만들지는 못하는 생성 AI 서비스 (feat. 생성형 AI 서비스 개발시 고려해야 할 점)
그렇다면 '생성형 AI 서비스 개발' 정말 누구나 할 수 있을까요?
물론, 이제는 AI 모델을 직접 만들거나 서버에 올리지 않아도 바로 사용할 수 있게 되었죠.
정말 편리해졌습니다!
그런데!
생성형 AI 서비스 개발에는 기존 IT 서비스와는 다른 특별한 점들이 있다는 사실, 알고 계셨나요?
이 함정에 빠지면 큰 낭패를 볼 수 있습니다. 😱
직접 해봐야만 아는 ‘생성형 AI 서비스를 개발 시 고려할 점’!
어떤 것들이 있는지 제가 대표적인 몇 가지를 소개해 드릴게요!
1. 일관성 없는 결과물, 개발자의 악몽!
생성 AI 서비스는 같은 질문에도 매번 다른 대답을 내놓습니다.
사용자에게는 신선한 재미가 되겠지만, 개발자에게는 끔찍한 악몽이 될 수 있어요. 😩
예를 들어 '개인정보 처리 방침 AI 생성 서비스'를 만든다고 해보죠.
개발자는 AI가 만들어낸 개인정보 처리 방침을 아래처럼 컴퓨터가 이해할 수 있는 JSON 형식으로 받아 문서를 자동 생성하려 할 겁니다.
그런데 AI는 가끔 아래처럼 컴퓨터가 알아듣기 어려운 일반 텍스트 형태로 결과를 내놓기도 해요.
이럴 때는 서비스에 에러가 발생하고 사용자는 떠나버리죠.
그래서 개발자는 AI 모델의 결과를 항상 JSON으로 반환하도록 수정하고, 텍스트 형식의 결과도 JSON으로 변환하는 코드를 미리 준비해야 해요.
AI의 특성으로 발생할 수 있는 예외 상황에 대비하는 게 중요합니다!
2. 프롬프트 엔지니어링, AI를 길들이는 기술!
ChatGPT를 사용하면서 질문 방식에 따라 결과가 달라지는 걸 경험해보셨나요?
이 질문을 우리는 '프롬프트(Prompt)'라고 부릅니다.
실제 생성형 AI 서비스에서는 이 '프롬프트'가 서비스의 품질을 결정짓는 핵심이에요!
프롬프트를 작성할 때는 3가지를 특히 유의해야 합니다.
2-1. 프롬프트 기법 : 'CoT(Chain-of-Thought)', '역할 지정' 등 다양한 기법을 상황에 맞게 적절히 활용해야 해요.
2-2. 할루시네이션(Hallucination: 환각) : AI는 가끔 사실이 아닌 헛소리를 지어내기도 합니다. 이를 막기 위해 'RAG(Retrieval-Augmented Generation)' 기법을 쓰거나 출처를 표시하는 등의 처리가 필요하죠.
2-3. 프롬프트 인젝션 : 잘 만든 프롬프트는 기업의 소중한 자산입니다. 해킹으로부터 프롬프트를 지키는 방어 체계도 갖춰야 합니다.
3. 비용 산정, 서비스 성패를 가르는 기준!
마지막으로 '비용 산정'입니다.
생성형 AI 서비스는 사용할 때마다 API 비용이 들어가요.
사용자 1명이 한 달에 300원어치를 쓴다고 해보죠.
1만 명이 이용하면 매달 300만 원이 순식간에 증발합니다. 😱
그래서 많은 서비스들이 월 구독 모델을 채택하고 있어요.
하지만 이 월 구독료를 얼마로 책정할지 정하기가 참 어렵습니다.
너무 싸면 서비스를 계속 운영하기 힘들고, 너무 비싸면 사용자가 떠나버릴 수 있거든요.
그래서 사용자 1명이 평균적으로 얼마의 비용을 발생시킬지 정확히 예측하고, 이를 바탕으로 현명한 가격 정책을 세우는 게 굉장히 중요합니다!
오늘은 생성형 AI 서비스의 필요성과 개발 시 고려 사항에 대해 정리해보았습니다. 어떠셨나요? 😄
생성형 AI 서비스 개발을 계획중인 분들은, 이러한 고려 사항을 꼭! 확인하고 진행하셔서 성공적인 프로젝트 되시길 응원하겠습니다! 🔥
현재 Beformed 에서 무료 AI 도입 컨설팅을 진행하고 있습니다. (~6/7)
지난번 100명 이상 신청해주신 '무료 AI 도입 컨설팅'을 다시 진행하게 되었습니다. 😊
아래와 같은 어려움을 겪고 계신 분들은 아래 링크로 신청해주세요.
- 이미 매출이 발생 중인 비즈니스를 디지털화하여 더 큰 성장을 이루고 싶으신 분
- 생성형 AI를 활용해 혁신적인 서비스를 개발하고 싶으신 분
- AI로 기업 내부 프로세스를 효율화하고 개선하고 싶으신 분
2
0
1