SKT 에이닷엑스(A.X) 4.0 LLM AI 모델

SKT 에이닷엑스(A.X) 4.0 LLM AI 모델

 

에이닷엑스는 알리바바의 Qwen2.5 오픈소스 모델을 기반으로 만들어졌다.

한국어에 특화된 토크나이저로 튜닝하였고, 풍부한 한국어 데이터를 학습하였다.

그래서 한국어를 잘 다루는 LLM 모델 중의 하나가 에이닷엑스이다.

 

2025년 8월 4일, SK텔레콤의 AI 서비스 ‘에이닷’이 4.0버전으로 업데이트됐다.

 

   ▲ 에이전틱 워크플로우 도입

   ▲ 에이전트 통합

   ▲ 음성 모드 개선

   ▲ 일정 관리 개편

   ▲ 감성 모드 추가

 

등 전반적인 기능 고도화가 이뤄졌다.

 

에이닷 4.0 업데이트에는 사용자와 그간 나눈 대화 내용을 기반으로 목표를 설정하고 필요한 작업을 순차적으로 계획하고 실행하는 최신 AI 기법인 ‘에이전틱 워크플로우’가 적용됐다. SKT는 ‘에이전틱 워크플로우’를 에이닷 맞춤형으로 구현하면서, ‘에이전트 오케스트레이터(Agent Orchestrator)’를 도입했다.

 

• 우수한 한국어 능력 : ​​한국어 평가의 주요 벤치마크이자 MMLU의 한국어 맞춤형 버전인 KMMLU 에서 78.3점을 획득하여 GPT-4o(72.5)보다 우수한 성적을 거두었다.
• 심층적 문화적 이해 : 한국 문화 및 맥락적 이해의 벤치마크인 CLIcK 에서 83.5점을 받아 GPT-40(80.2)을 넘어섰다.
• 효율적인 토큰 사용 : AX 4.0은 동일한 한국어 입력에 대해 GPT-4o보다 약 33% 적은 토큰을 사용하여 더욱 비용 효율적이고 효율적인 처리가 가능하다.
• 배포 유연성 : 72B 매개변수 표준 모델(AX 4.0)과 7B 경량 버전(AX 4.0 Light)으로 제공된다.
• 긴 컨텍스트 처리 : 최대 131,072개의 토큰을 지원하여 긴 문서와 대화도 이해할 수 있다. (경량 모델은 최대 16,384개의 토큰 길이를 지원한다.)

 

에이닷엑스 4.0 모델은 허깅페이스 링크에서 다운로드할 수 있다.

 

https://huggingface.co/skt/A.X-4.0

skt/A.X-4.0 · Hugging Face

 

[예제 코드]

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "skt/A.X-4.0"
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)
model.eval()
tokenizer = AutoTokenizer.from_pretrained(model_name)

messages = [
    {"role": "system", "content": "당신은 사용자가 제공하는 영어 문장들을 한국어로 번역하는 AI 전문가입니다."},
    {"role": "user", "content": "The first human went into space and orbited the Earth on April 12, 1961."},
]
input_ids = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)

with torch.no_grad():
    output = model.generate(
        input_ids,
        max_new_tokens=128,
        do_sample=False,
    )

len_input_prompt = len(input_ids[0])
response = tokenizer.decode(output[0][len_input_prompt:], skip_special_tokens=True)
print(response)
# Output:
# 최초의 인간이 1961년 4월 12일에 우주로 가서 지구 궤도를 돌았습니다.