AI 모델이 점점 더 거대해지면서 자연스럽게 운영 효율에 대한 문제가 부각되었습니다. GPT-4 같이 거대한 인공지능 모델은 메모리를 많이 차지하고, 느리며, 전력 소모가 심하다는 문제가 있습니다. OpenAI의 샘 알트먼은 최근 “AI의 전력 소모량이 예상을 초월한다”며 핵융합 등 에너지 산업의 혁신이 필요하다고 발언 할 정도입니다. 전세계 사용자들을 대상으로 대규모 서비스를 하려면 이러한 문제는 반드시 해결되어야 합니다. MS가 이번에 발표한 Bitnet B1.58은 이러한 운영 효율을 크게 개선했습니다.

복잡한 AI 업계를 쉽게 풀어드립니다
클루잇 뉴스레터를 무료로 구독하고
매주 새로운 소식을 받아보세요

누구나 이해할 수 있는 Bitnet B1.58

딥러닝 모델은 가중치(Weights)라는 숫자들로 구성되어있습니다. 이 가중치는 일반적으로 긴 자릿수의 실수 값으로 저장되어있고, 이 숫자들에 입력값을 곱하고 더하면서 결과를 계산합니다.