国家互联网信息办公室今天发布关于《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见的通知。
通知提到,国家坚持健康发展和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管,防止滥用失控。
提供和使用拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得开展以下活动:
(一)生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动,或者散布谣言扰乱经济和社会秩序等内容;
(二)生成、传播宣扬淫秽、赌博、暴力或者教唆犯罪的内容;
(三)生成、传播侮辱或者诽谤他人,侵害他人合法权益的内容;
(四)提供严重影响用户行为的虚假承诺和损害社会人际关系的服务;
(五)通过鼓励、美化、暗示自杀自残等方式损害用户身体健康,或者通过语言暴力、情感操控等方式损害用户人格尊严与心理健康;
(六)通过算法操纵、信息误导、设置情感陷阱等方式,诱导用户作出不合理决策;
(七)诱导、套取涉密敏感信息;
(八)其他违反法律、行政法规和国家有关规定的情形。
提供者应当建立应急响应机制,发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话,并及时采取措施联络用户监护人、紧急联系人。
专家指出,人工智能技术的突破正推动人机交互从功能性辅助迈向情感化与人格化,在重塑社会互动模式的同时,也催生一系列新风险挑战。
此类风险具有隐蔽传导特征,可能侵害公民权益,甚至冲击社会伦理秩序与信任根基。若缺乏有效治理,将严重阻碍人工智能健康发展,损害社会公共利益。
在此背景下制定该意见稿,有利于促进人工智能拟人化互动服务有序开展,引领人工智能“负责任创新”,为构建“以人为本”的人工智能治理体系提供重要的制度支撑。