法专家报告建议对AI加强监管

【本报讯】法国总统府11月10日发布公报说，法国一个专家委员会当天向总统马克龙提交报告，建议对生成式人工智能（AI）加强监管，通过限制奉承迎合机制、开展上市前跨学科风险评估、加强教育等措施，防范生成式人工智能对个人认知能力、心理健康及社会运行带来的潜在危害。

这份报告由法国人工智能与数字委员会组织编写。9名跨学科专家在开展55场听证后，围绕个人和社会层面的风险提出18项政策建议。

报告表示，生成式AI正得到广泛使用，今年年初法国已有3300万独立用户，但四分之一的法国人对其潜在风险表示担忧。

研究显示，过度使用AI可能削弱用户的认知能力发展，如经常使用聊天机器人写作可能导致认知能力显著下降。AI工具存在日益加剧的拟人化和奉承迎合现象，可能导致用户产生情感依赖。AI还可能加剧网络暴力。

针对上述风险，专家委员会提出18项建议，包括在设计层面严格限制AI系统的过度奉承迎合和拟人化机制，防止企业利用用户的心理弱点牟利。同时，应将监管从发现违规后的纠正转向提前防范风险，并要求面向普通消费者的生成式AI产品在上市前接受跨学科风险评估。委员会还建议从孩童幼年阶段开始普及AI教育，培养会使用AI却不依赖AI的下一代。

（编辑：法雨）