人工智能发展面临失控，多国宣布AI监管计划，涉及的潜在风险有啥|世界今亮点

(资料图片)

人工智能的发展貌似有点失控，因为在软硬件层面已经没有什么阻力，只要能够提供足够的数据和算力，AI就是无限制的进化下去，想到这点，还是有些害怕的。因为早晚有一天，会有一个超级AI，它的智力要远远超过最聪明的人类。

所以，眼下更关键的是如何正确的引导AI的发展。

头一段时间，意大利率先出手，禁止了ChatGPT，原因其实也很简单，主要包括数据安全性，以及在用户年龄审核方面存在漏洞。那么经过调整，目前ChatGPT已经在意大利重新上线，相对应的，ChatGPT也必然符合了意大利有关部门的要求，例如需要建立严格的年龄验证机制，过滤掉未满13岁的用户以及未经父母同意的13岁至18岁的青少年。

另外，在企业层面，三星也因为使用ChatGPT不当，造成了敏感数据泄露。所以，针对人工智能产生的风险，势必要有相关的监管机制才行。

例如，近日欧盟就退出了《人工智能法》提案，要求类似ChatGPT等生成式人工智能的公司，披露用于开发其系统的受版权保护的材料，预计5月11日进行关键委员会投票，6月中旬进行全体投票。如果该法案获得通过，将成为是全世界第一部综合性的AI法律。

我们国家也是一样，甚至更早，在4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法》公开征求意见。

那么在AI领域，处于领先地位的美国，也于近日做出承诺，将发布指导方针草案以确保对人工智能的使用保障“美国人民的权利和安全”，谷歌、微软、OpenAI等巨头已同意在8月的网络安全会议上对其产品进行审查。

这里可能主要有两方面的内容，一是数据收集获取的安全性，二是对人工智能生成内容的审核。而这两点，其实不论对于个人用户、企业用户甚至是一个国家而言，都是非常重要。

因为生成式的大语言模型，前提是要发送信息给AI，其才能做出反应。那么发送的信息，AI如何使用和保存，必须要有严格的要求。同时，反馈的内容如何保持客观、公正、准确，也是至关重要的。尤其是不同类型的用户，例如孩子和成年人在与AI对话时，同样的问题，回答自然不能完全相同，否则会影响未成年人价值观、世界观的健康发展。

所以，AI虽好，但还是需要适当的监管，才能发挥出真正的作用。

关键词：