哈萨克语加速融入人工智能时代:140亿Token语料库支撑多场景应用

(哈萨克国际通讯社讯)随着人工智能技术迅速发展,如何让哈萨克语不仅能够被机器“识别”,更能被准确理解和自然使用,正在成为哈萨克斯坦语言数字化领域的重要课题。国际“哈萨克语”协会与OpenAI联合项目最新成果显示,目前哈萨克语文本语料库规模已达到140亿Token(词元),音频数据达到1.2万小时,针对哈萨克语优化的语音转文字准确率最高达到98%。与此同时,围绕哈萨克历史文化理解、人工智能使用成本以及实际应用场景的探索也在同步推进。

Қазақ тілі Жасанды интеллект
Фото: Kazinform/AI

上述成果日前在国际“哈萨克语”协会与OpenAI联合项目成果发布活动上公布。

国际“哈萨克语”协会主席热万·肯杰汗吾勒表示,该项目的核心目标,是为哈萨克语在人工智能时代得到充分应用创造条件。

“除了将丰富的语言资源引入数字环境,还必须让人工智能能够自然理解和正确使用哈萨克语,并充分考虑哈萨克民族的文化语境。因此,我们不仅重视数据库建设,也高度重视数据质量以及语言模型评估工具。这不是一次性的项目,而是一项系统性的长期工作。”他说。

Қазақ тілінің цифрлық қорына шетелдегі қазақтардың тілдік мұрасы енгізілді
Фото: Ағыбай Аяпбергенов/Kazinform

国际“哈萨克语”协会与OpenAI的联合项目根据双方2025年11月7日在华盛顿签署的协议实施,旨在通过建设高质量数字内容和可靠数据库,提高大语言模型处理哈萨克语的能力。

哈萨克语文本语料库达到140亿Token

项目负责人阿纳尔·库尔曼詹克兹介绍,目前项目已经建立起涵盖哈萨克语文本和语音数据的高质量语料库。

“哈萨克语文本语料库已经达到140亿Token。相关材料按照主题、体裁和年龄特征进行分类。除了涵盖哈萨克语不同历史发展阶段的内容外,海外哈萨克人的语言文化遗产也被纳入其中。”她说。

目前,该语料库覆盖教育、科学、技术、经济、法律、医学、历史、民族志、媒体和儿童内容等多个领域。

哈萨克语音频数据库则已达到1.2万小时。所有录音均经过处理,去除了环境噪声、音乐及其他无关声音。在此基础上,针对哈萨克语优化的转写模型已投入使用,语音转文字准确率最高达到98%。

Қазақ тілінің цифрлық қорына шетелдегі қазақтардың тілдік мұрасы енгізілді
Фото: Ағыбай Аяпбергенов/Kazinform

项目还开发了面向哈萨克语的Document AI和自然语言处理(NLP)工具,包括能够高精度识别哈萨克语文本的OCR系统,以及识别报纸、书籍和PDF文档结构、按照正确顺序读取多栏页面和清理数据等技术工具。

值得注意的是,项目在建设哈萨克语数字资源时,还专门纳入了海外哈萨克人的语言遗产,使不同地域保存和使用的哈萨克语材料能够进入数字语料体系。

AI对哈萨克历史文化的理解仍有提升空间

除了让人工智能“会说”哈萨克语,项目团队还开始测试其是否真正理解哈萨克民族的历史、传统和文化。

阿纳尔·库尔曼詹克兹表示,仅仅能够正确使用哈萨克语并不足够,人工智能还需要理解哈萨克民族的历史、传统、生活方式以及文化特征。

为此,项目团队专门设计了一套由500道题组成的测试体系,内容涉及哈萨克民族历史、传统习俗、文化和民族志等领域。

“GPT-5.6 Terra模型也参加了这项测试,其正确回答率为35.92%。”她说。

据介绍,这套评估体系不仅测试人工智能对历史文化知识的掌握程度,还考察其理解哈萨克语文本、正确使用语法、自然表达、运用谚语和固定表达、进行翻译以及提供安全回答等方面的能力。

与直接从英语测试体系翻译不同,这套评估工具从设计之初便使用哈萨克语,并结合哈萨克语自身的语言和文化特点进行开发。

项目方计划未来向科学家和研究人员开放这套500道题组成的测试体系。

哈萨克语使用AI的成本仍高于英语和俄语

在哈萨克语人工智能能力不断提升的同时,实际使用成本仍是需要解决的问题。

“哈萨克电信”董事会主席巴格达特·穆辛在活动上表示,目前使用哈萨克语调用人工智能服务,其成本约为英语的3倍、俄语的2倍。

“目前哈萨克语在人工智能使用效率方面仍存在问题。例如,以哈萨克语提问并获得回答,与英语相比成本高出3倍,与俄语相比则高出2倍。因此,目前已有一批专业人士正在努力缩小这一差距,提高哈萨克语人工智能的运行效率。”穆辛说。

Қазақ тілінде ЖИ пайдалану ағылшын тілінен үш есе қымбат — Бағдат Мусин
Фото: Ағыбай Аяпбергенов/Kazinform

他认为,这也是一个需要从基础设施层面加以解决的问题。

穆辛表示,“哈萨克电信”愿意为提升人工智能处理哈萨克语的能力作出贡献,并准备利用目前正在埃基巴斯图兹建设的大型数据中心的能力支持哈萨克语发展。

与此同时,他认为,哈萨克斯坦社会对新技术接受速度较快,这也有助于推动哈萨克语人工智能工具不断改善。

“我们在掌握技术方面具有很强的适应能力。无论是WhatsApp、Telegram,还是现在的ChatGPT,新技术出现后大家都会很快开始使用。使用的人越多,作为工具的质量也会逐渐提高。”他说。

穆辛表示,目前除ChatGPT外,还有Qwen、Google Gemini等不同人工智能模型。对于日常应用而言,ChatGPT的能力已经基本能够满足需要,但在分析技术性内容、哈萨克文化以及阿拜《箴言录》等具有深层语言和文化内涵的文本时,模型仍可能出现语义偏移。

因此,他认为,提高哈萨克语人工智能能力,需要精通哈萨克语的语言专家与技术领域专业人士共同参与。

“AI同事”未来或进入政府机构

人工智能的哈萨克语能力提升,也正在从语言技术研究进一步走向实际工作场景。

穆辛透露,“哈萨克电信”正在开发名为“AI同事”(AI-әріптес)的人工智能项目,用于辅助公司员工处理日常工作。

按照设计,这一人工智能工具将学习不同部门的工作特点,并以聊天机器人等形式参与文件流转和日常任务处理,为员工提供辅助。

“我们有一个名为‘AI同事’的项目。它将在各个部门学习相应的工作流程,并在文件流转等工作中以聊天机器人的形式提供帮助。”穆辛说。

这一项目未来可能不再局限于“哈萨克电信”内部。

Қазақ тілінің цифрлық қорына шетелдегі қазақтардың тілдік мұрасы енгізілді
Фото: Ағыбай Аяпбергенов/Kazinform

据穆辛介绍,公司计划逐步将其推广至“萨姆鲁克-卡泽纳”国家福利基金旗下各企业,同时也考虑向地方政府和中央政府部门提供相关解决方案。

“我们计划逐步把它推广到‘萨姆鲁克-卡泽纳’旗下所有企业。也可以应用到各部委,不过我认为人工智能部也在开展这方面的工作。我们也会尝试向地方政府和各部委提供这一方案。”他说。

Coursera逾8000门课程已支持哈萨克语

哈萨克语数字化进程还在向高等教育领域延伸。

Bilim Upskill公司执行董事阿谢尔·穆罕默德扎诺娃在活动上介绍,目前Coursera平台支持哈萨克语的课程数量已经超过8000门,约占平台全部课程的40%。

“Coursera——哈萨克语”项目于2023年在“哈萨克斯坦人民”公共基金支持下启动,首批有来自哈萨克斯坦各地区的25所高校加入。

“我们的主要目标,是让学生能够用哈萨克语学习世界顶尖大学和企业开发的优质课程。我们没有把项目局限在阿拉木图和阿斯塔纳,而是覆盖全国所有地区,因为获得优质教育的机会不应该取决于一个人生活在哪里。”穆罕默德扎诺娃说。

项目实施第一年,共有102门课程被翻译成哈萨克语,约4500门课程增加了哈萨克语字幕。

2024年,在科学和高等教育部支持下,参与项目的高校增至93所,同年又有20门课程完成哈萨克语翻译。

从2025年开始,Coursera课程进一步引入哈萨克语配音,哈萨克语同时被列入该平台内容翻译所支持的40种语言之一。

“这意味着,今后哈萨克语内容不再完全依赖我们的团队进行翻译,新上线的课程也可以借助Coursera自身技术提供哈萨克语版本。目前已有100所大学参与这一项目。”她说。

Қазақ тілінің цифрлық қорына шетелдегі қазақтардың тілдік мұрасы енгізілді
Фото: Ағыбай Аяпбергенов/Kazinform

项目的目标也不局限于课程翻译。Coursera课程目前已被纳入哈萨克斯坦高校教学计划,学生完成相关课程后,其学习成果可以折算为大学学分。

数据显示,三年来已有超过26.7万人至少完成一门课程,累计获得近60万份证书,其中超过14万份为哈萨克语课程证书。此外,Coursera课程累计获得认可的大学学分已超过21.1万个。

哈萨克斯坦高校也开始从课程使用者转变为平台内容提供者。目前,已有18所本国高校在Coursera发布40门自主开发课程,其中一半使用哈萨克语。这些课程吸引超过1.5万名学生注册,并已颁发超过1.1万份证书。

从语料库建设、语音识别和文化理解能力测试,到人工智能工作助手和在线高等教育,哈萨克语数字化应用正在向更多领域延伸。与此同时,如何降低模型处理哈萨克语的成本、提高对复杂语言和民族文化语境的理解能力,仍是下一阶段需要持续解决的问题。