法案的出台旨在建立人工智能技术应用的统一法律框架，确保其安全、透明和可控发展。法案重点关注风险分级管理，严格限制高风险人工智能系统，禁止开发和使用能够操控人类行为或无需人类干预即可决策的人工智能。
此外，法案强化个人数据保护，明确国家机关及企业在人工智能技术应用中的责任，并推动本国人工智能产业的发展，以在受控环境下促进技术创新和安全应用。
- 国家元首在 2024 年 9 月 2 日的国情咨文中，以及今年政府扩大会议上的讲话中，强调了实施这些法案的重要性。- 马吉利斯议员努尔泰·萨比里亚诺夫说。
主要法案内容包括：
— 明确人工智能领域监管、透明度及安全保障的法律和组织基础。根据风险级别对人工智能系统进行分类，并加强个人数据保护；
— 规定国家机关及国有企业在人工智能技术应用方面的特殊要求；
— 明确人工智能领域相关方的权利与义务。
- 此外，配套法案涉及消费者权益保护，特别是针对人工智能系统生成的产品，以及该系统所使用的个人数据保护问题。同时，配套法案还旨在确保由人工智能系统生成的媒体内容的安全性，并规定人工智能系统所有者需承担行政责任。- 努尔泰·萨比里亚诺夫补充道。
马吉利斯议员叶卡捷琳娜·斯梅什利亚耶娃（Ekaterina Smyshlyayeva）介绍了法案的主要创新点：
引入基于风险级别的人工智能系统分类
法案将人工智能系统划分为低风险、中等风险和高风险类别，以便根据其对用户、社会和国家安全的潜在影响进行相应监管。
禁止完全自主人工智能系统
法案规定，禁止在哈萨克斯坦境内开发和部署无需人类干预即可做出决策的人工智能系统，以降低不可控后果的风险。
建立国家人工智能平台
政府计划构建国家技术基础设施，以促进本国人工智能解决方案的发展。该平台将成为受控环境中的人工智能系统开发、训练和测试基地。
叶卡捷琳娜·斯梅什利亚耶娃指出，该法案特别强调个人数据保护。法案严格限制使用人工智能对个人进行社会、生物特征和行为特征评分，并明文禁止创建和使用能够操控人类行为的人工智能系统。
法案对深度伪造（Deepfake）的监管
哈萨克斯坦《人工智能》法案拟加强对深度伪造（Deepfake）技术的监管，以应对人工智能技术滥用带来的社会风险。法案中不仅禁止开发和使用能够操控人类行为的人工智能系统，而且还对利用深度伪造进行欺诈、操纵舆论等行为提出监管措施。
目前，是否对制造深度伪造内容的行为追究刑事责任仍在讨论中，未来可能通过立法明确相关法律责任。此外，法案还探讨要求发布者对深度伪造内容进行明确标识，以提高公众辨识能力，从而减少其对社会的负面影响。
【编译：木合塔尔·木拉提】
