🤗안녕하세요! 모두를 위한 SW/AI 뉴스를 전하는 모두의연구소입니다!
(모두의연구소는요!) 지식을 나누며 함께 성장하는 국내 최대 AI 커뮤니티입니다🌟

그럼, 오늘의 SW/AI 데일리 뉴스를 전해 드릴게요! 

1.  Laravel ****Reverb : Laravel WebSocker 서버

Reverb는 Laravel 애플리케이션을 위한 첫 번째 파티 WebSocket 서버로, 클라이언트와 서버 간의 실시간 통신을 직접 제공합니다. 오픈 소스이며 Artisan 명령으로 쉽게 사용할 수 있습니다. Reverb는 속도에 최적화되어 있어 단일 서버가 수천 개의 연결을 지원하며, Laravel의 방송 기능과 즉시 호환되는 Pusher 프로토콜을 사용합니다. 또한 Redis를 사용한 수평 확장 지원으로 규모에 맞게 용량을 무한히 늘릴 수 있습니다.

https://reverb.laravel.com/#features

2. Convex : TypeScript Database

Convex 백엔드 코드베이스는 200,000줄 이상으로, Convex의 핵심 백엔드 구현을 포함합니다. 대부분 Rust로 작성되었으며, 서버 사이드 함수 환경을 지원하는 TypeScript도 상당량 사용되었습니다. 이는 단일 기계 버전이지만, 클라우드 서비스와 동일한 최신 코드를 사용합니다. 모든 앱 API가 지원되어, 클라우드 서비스에서 실행되는 프로젝트라면 오픈 소스 백엔드에서도 잘 작동해야 합니다. 그러나 Convex 대시보드, Fivetran 및 Airbyte 같은 서비스를 사용한 스트리밍 가져오기/내보내기, Axiom 및 Datadog 같은 관찰성 서비스로의 로그 스트림, Sentry 같은 서비스로의 예외 스트리밍 등 일부 지원 플랫폼 기능은 클라우드 서비스를 사용해야 합니다.

https://news.convex.dev/convex-goes-open-source/

3. 모델 스틸링 공격: 거대 언어 모델의 보안 취약점 노출

OpenAI의 ChatGPT나 Google의 PaLM-2와 같은 블랙박스형태의 거대언어모델(LLM)에서 정확하고 중요한 정보를 추출하는 최초의 모델 스틸링 공격을 소개하는 논문이 나왔습니다. 이 공격은 일반적인 API 접근 권한만으로도 transformer 모델의 임베딩 투영 레이어를 대칭성까지 복구할 수 있다고 합니다. 적은 비용으로 OpenAI의 Ada와 Babbage 언어 모델의 전체 투영 행렬을 추출하여, 이 블랙박스 모델들이 각각 1024와 2048의 숨겨진 차원을 가지고 있음을 처음으로 확인했다. 또한 gpt-3.5-turbo 모델의 정확한 숨겨진 차원 크기를 복구하고, 전체 투영 행렬을 복구하는 데 2,000달러 미만의 쿼리 비용이 들 것으로 추정했다고 합니다. GPT-4와 같은 블랙박스 모델들도 API로만 아키텍쳐를 파악할 수 있다는 사실이 놀랍네요!

https://huggingface.co/papers/2403.06634

4. 1000만 토큰의 문맥 이해: Gemini 1.5 Pro의 획기적인 성능

Gemini 1.5 Pro에 대한 리포트가 나와서 공유합니다. Gemini 1.5 Pro는 수백만 개의 토큰, 긴 문서, 수 시간 분량의 비디오 및 오디오를 포함한 상황에서 세부 정보를 회상하고 추론할 수 있는 고도로 계산 효율적인 다중 모드 전문가 혼합 모델입니다. Gemini 1.5 Pro의 문맥을 읽을 수 있는 길이의 한계를 연구한 결과, 최소 1000만 토큰까지 다음 토큰 예측에서 지속적인 개선과 거의 완벽한 검색(>99%)이 이루어졌으며, 이는 Claude 2.1(20만)과 GPT-4 Turbo(12.8만)와 같은 기존 모델을 뛰어넘는 수준이라고 합니다. 마지막으로, 전 세계적으로 200명 미만의 화자를 가진 소수 언어의 문법 설명서가 주어졌을 때, 모델이 동일한 내용으로 학습한 사람과 유사한 수준으로 영어를 소수 언어로 번역하는 것을 배우는 등 대규모 언어 모델의 놀라운 새로운 기능을 강조하고 있습니다.

https://huggingface.co/papers/2403.05530

🏫다른 생각에서 시작한 AI교육,
모두의연구소 AI학교 아이펠 온라인 8기
https://bit.ly/3Pcdo3q