AI观察｜AI“双刃剑”，我们如何应对？

人民网记者 赵竹青

10月以来，人工智能再次以其“双刃剑”的特性展现在世人面前。一方面，人工智能技术因其在科学领域的贡献而获得了诺贝尔物理学奖和化学奖的认可，这些成就不仅彰显了AI在科学研究中的潜力，也预示着它在未来将发挥更大的作用。另一方面，在国庆假期期间，AI技术却因冒牌“雷军”在社交媒体上的不当言论而遭到非议，再次引发了公众对于AI安全性及伦理性的讨论。

值得注意的是，在今年的诺贝尔物理学奖颁奖过程中，评委们特别强调了科技伦理与责任的重要性。获奖者之一杰佛里·辛顿也指出，科技界和社会应共同探讨如何在推进AI技术进步的同时，确保其负责任地被使用。这反映出国际社会对于AI技术正面影响和负面影响共存的认识，并呼吁各方共同努力，构建一个健康的技术生态系统。

近年来，生成式AI的发展速度令人惊叹。曾经“一眼假”“一听假”的AI生成内容，如今已经进化至“真假难辨”的水平。随着AI技术的进一步成熟、普及，其潜在的安全风险也在不断增加。

对此，全球范围内已经出现了积极的应对措施。欧盟通过了一系列法律法规，如《人工智能法案》《一般数据保护条例》和《数字服务法案》等，旨在通过法律手段来规范AI技术的应用。我国《网络安全法》《数据安全法》《个人信息保护法》等法律法规也已陆续颁布执行。

去年，国家网信办等七部门联合发布了《生成式人工智能服务管理暂行办法》，对生成式人工智能的监督检查和法律责任进行界定。今年9月，国家网信办更是就《人工智能生成合成内容标识办法(征求意见稿)》公开征求意见，旨在通过规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

未来，随着人工智能技术的持续演进，其对社会经济结构的深刻影响将进一步显现。因此，构建一个既促进技术创新又确保安全可控、符合伦理标准的AI发展环境，不仅是当前的重要任务，更是面向未来、实现可持续发展的必由之路。社会各界需携手合作，不断探索和实践，让人工智能技术真正成为推动人类社会进步的强大力量。