오디오가이 :: 디지털처럼 정확하고 아날로그처럼 따뜻한 사람들
자유게시판

AI모델도 효율화 바람SLMMoE 등 눈길

페이지 정보

작성자 라이더1
작성일

본문

한일가왕전 MC 신동엽이 팽팽한 신경전이 펼쳐진 마지막 본선 3차전 무대에서 관록의 밀당 진행력으로 참가자들과 마스터들의 포복절도 분통을 끌어낸다.
MBN 한일가왕전은 한국과 일본의 새로운 문화의 장으로서 영향력을 인정받으며 4회 연속 화요일 지상파 종편 케이블 포함 동시간대 시청률 1위의 위엄을 지키고 있습니다. TV 화제성 분석 기관 굿데이터코퍼레이션이 집계한 4월 3주차 비드라마 TVOTT 검색 반응에서도 TOP6에 오르는 등 화제 몰이를 이어가고 있습니다. 지난 4회 진행된 본선 2차전에서는 1차전 일본에 역전패당했던 한국이 71 압도적인 승리를 거두면서 승부를 원점으로 돌리는 활약을 펼쳤습니다. 마지막 본선 3차전만 남겨둔 상황에서 한일가왕전의 첫 우승컵은 어느 나라가 차지할지 관심이 쏟아지고 있습니다. 이와 관련 MC 신동엽이 30일 방송될 한일가왕전 5회에서 최종 승리를 거머쥐기 위해 나선 한일 양국의 긴장감을 아우르는 명불허전 베테랑 MC의 면모를 입증합니다. 신동엽은 본선 3차전에 적용될 룰을 설명하며 지독하고 흥미진진한 대결방식이죠라고 말문을 열었습니다. 이어 한일 TOP7의 첫 무대가 끝나자 아 진짜요 놀라운 소식을 전합니다라고 깜짝 콩트 애드리브를 펼쳐 지금 우리 낚인 거야라는 모두의 폭소와 분통을 유발합니다. 신동엽은 한일 TOP7의 이름이 적힌 명패를 무작위로 뽑던 중 현장을 향해 앞에 거를 뽑을까요 뒤에 거를 뽑을까요라는 말을 던져 심장을 졸이던 참가자들의 이유 있는 아우성을 듣는다.
반면 계속해서 힘들어하는 마스터들의 모습도 인상적이다라는 코멘트로 역대급 무대가 속출하는 탓에 고민에 빠진 마스터들을 독려합니다. 신동엽은 한 참가자가 긴장감으로 인해 실수하는 모습을 보이자 짜증 나서 드레스를 밟아 버리고 말았습니다라고 너스레를 떠는가 하면 걸음을 어디로 향해야 할지 갈피를 잡지 못한 채 방황하는 참가자를 보며 귀여운데 무섭게 다가옵니다라는 촌철살인 멘트를 던져 웃음으로 참가자의 긴장감을 누그러뜨립니다. 신동엽이 여러분 이게 웬일입니까라는 말을 건넨 후 한국팀 황금 막내로 의연하게 연승행진을 이어가던 김다현이 저한테 왜 그러세요라고 울상 대응을 하는 장면이 포착돼 궁금증을 자아낸다. 100 리얼 현장 해프닝에 신동엽이 당황한 웃음을 터트린 가운데 신동엽과 김다현 사이에 무슨 일이 벌어진 것인지 관심이 치솟는다. 제작진은 신동엽이 관록의 믿보 진행력으로 한일 양국의 팽팽한 신경전을 아우르며 축제 같은 한일가왕전 무대를 이끌고 있다라며 이제 드디어 첫 번째 한일가왕전 우승국이 나오는 순간이 다가왔습니다. 마지막 무대인만큼 더 폭발적인 에너지들이 쏟아졌습니다. 기대해 달라고 밝혔습니다. 한일가왕전 5회는 30일 오후 10시 방송됩니다.
생성형 AI 열풍을 타고 빅테크들의 실적 성장이 여전히 이어지고 있습니다. 이 가운데 모델서비스의 효율화를 위한 움직임도 눈에 띈다. 신성장동력의 지속가능성을 확보하기 위한 시도로 풀이됩니다. 지난 25일 MS 와 알파벳 은 각각 월가 전망치를 상회하는 1분기 실적을 발표했습니다. 양사 모두 AI 수요 덕분에 클라우드 매출이 전년 동기보다 각각 31 26 성장한 게 주효했습니다. MS는 미국 시가총액 선두질주를 이어갔고 알파벳의 경우 발표 이튿날 주가가 10 가량 오르며 MS애플엔비디아에 이어 시총 2조달러 클럽에 들었습니다. 이처럼 클라우드 기반 초거대AI와 AI인프라 수요를 중심으로 성장세가 이어지는 와중에 빅테크들의 LLM 다양화 시도도 추진되고 있습니다. SLM 또는 sLLM이라 불리는 경량언어모델까지 라인업을 확대하는 추세다.
메타 라마 등 오픈모델이나 AI스타트업들의 파인튜닝 모델을 함께 제공하는 것을 넘어 직접 새 모델을 내놓고 있습니다. 온디바이스AI도 그 용도에 속하겠지만 가장 큰 이슈는 비용으로 보인다. MS는 최근 파라미터 38억개의 파이-3 미니 를 출시했습니다. 향후 추가될 스몰 과 미디엄 까지 파이3의 3종 모델 중 가장 작은 규모다. MS는 이 모델이 10배 큰 모델 수준의 응답을 제공할 수 있고 비슷한 기능을 가진 다른 모델들에 비해 학습구동에 드는 비용이 10분의 1 수준이라고 설명했습니다. 앞서 구글은 삼성 갤럭시S24에 온디바이스AI로 적용된 제미나이 나노 와 오픈모델 젬마 를 선보였고 최근 메타는 오픈모델 라마3 를 두 가지 버전 으로 공개한 바 있습니다. 하나의 LLM을 분야별 전문영역으로 나눠서 주어진 질문에 대해 해당 영역 모델들만 작동케 하는 MoE 방식 또한 대세로 자리잡고 있습니다. 오픈AI GPT-4에 쓰인 것으로 알려진 이후 미스트랄AI 등 AI스타트업들도 적용하기 시작 최근에는 데이터브릭스 나 스노우플레이크 등 데이터플랫폼들까지 이를 활용한 오픈모델을 내놨다.
큰 근육 위주로 운동을 해야 효과가 더 좋은듯 해요 스노우플레이크에 따르면 아크틱 모델은 4800억개 파라미터 중 한 번에 17개씩 활성화되는 방식으로 토큰 효율을 크게 높였습니다. 추론학습 중 라마3 70B보다 약 75 적은 매개변수를 활성화합니다. 모델 구축에 3개월 미만이 소요됐고 학습 비용은 유사 모델 대비 8분의 1에 그쳤습니다. 국내에서는 네이버가 사용자의 작업 종류나 비용 등에 따라 적합한 AI모델을 선택할 수 있도록 라인업 확장을 개시했습니다. 클로바스튜디오 를 통해 하이퍼클로바X 의 신규모델로 출시한 HCX-대시 는 기존 하이퍼클로바X 의 5분의 1 수준 가격으로 제공되며 효율적인 컴퓨팅자원 활용으로 속도도 개선됐습니다. 한국어 처리에 대해 영어 위주 AI모델들보다 앞섰던 효율성사용성을 한층 강화했다는 게 회사의 설명입니다. 앞으로 보다 정교한 작업을 위한 모델 이미지오디오도 처리 가능한 모델도 순차적으로 선보일 계획입니다. 최근 삼성SDS가 생성형AI 주제로 개최한 유통리테일 혁신 세미나 에서 김긍환 삼성SDS 전자컨설팅그룹장은 실제 생성형AI를 쓰고 있는 기업들을 살펴보면 토큰당 이용료와 인프라 등 비용에 더욱 신경 쓰는 모습을 보인다.
처음엔 연간 수천만원 정도로 생각했다가 이용이 늘면서 수십억원까지 추산되기도 한다며 앞으로 이에 대한 통합적인 최적화효율화 역량이 더욱 중요해질 것이라고 밝혔습니다.

회원서명

SIGNATURE

dd

서명 더보기 서명 가리기

관련자료

등록된 댓글이 없습니다.

+ 뉴스


+ 최근글


+ 새댓글


통계


  • 현재 접속자 209 명
  • 오늘 방문자 3,138 명
  • 어제 방문자 4,337 명
  • 최대 방문자 15,631 명
  • 전체 방문자 12,748,073 명
  • 오늘 가입자 0 명
  • 어제 가입자 0 명
  • 전체 회원수 37,538 명
  • 전체 게시물 264,661 개
  • 전체 댓글수 193,381 개