|
|
|
 |
 |
| |
 |
제 목 :
[엔씨] 리니지 클래식, ‘아덴’ 업데이트 진행 ∙∙∙ 신규 콘텐츠 추가 |
 |
작성자 :
|
등록일 : 2026-09-16 오후 4:15:21 |
|
|
 |
 |
 |
AI·데이터 플랫폼·클라우드 전문기업 솔트웨어는 LiteLLM과 아마존 베드락(Amazon Bedrock)을 활용해 기업의 AI Gateway를 구축하고, 클로드 코드(Claude Code)를 사내 통제 환경에서 운영하는 방법을 직접 실습하는 핸즈온 세미나를 개최했다고 16일 밝혔다.
이번 세미나는 기업 내 대규모언어모델(LLM) 활용이 확대되는 가운데, 여러 AI 모델을 하나의 엔드포인트로 통합하고 사용자별 접근 권한과 비용을 관리하는 것은 물론, 민감 정보 유출 방지와 사용 데이터 관리까지 기업의 LLM 운영에 필요한 체계를 직접 구축해보는 프로그램으로 마련됐다.
세미나는 AI Gateway의 필요성과 역할, 아키텍처에 대한 이해를 시작으로 LiteLLM을 활용한 AI Gateway 구축 실습을 중심으로 진행됐다. 참가자들은 여러 LLM을 하나의 엔드포인트로 통합하는 LLM Proxy를 구축하고 △사용자별 접근 권한 및 예산 관리 △사용자별·일자별 비용 추적 △반복 호출 비용과 지연을 줄이는 캐싱 △민감 정보 유출을 차단하는 가드레일 △LLM 사용 데이터 확보를 위한 로깅 등 주요 기능을 확인할 수 있었다.
|
|
|
|
| 덧글쓰기 |
 |
|
|
|
|
|
|
|
|
|
|
최신게임뉴스
총 141513의
게시물이 있습니다. 
2
