美联储调查AI儿童保护、医疗AI引争议

美联储调查AI公司儿童保护措施，新联邦计划将利用AI核准医疗治疗

美国联邦贸易委员会 (FTC) 近日对包括 Meta 等多家主要人工智能 (AI) 公司发起了正式调查，要求他们提供有关儿童使用其产品的相关信息和采取的安全保障措施。 这一行动源于家长和倡导组织的呼吁，担心 AI 技术，特别是聊天机器人，在社交媒体平台上过度使用可能对儿童的心理健康造成负面影响。

FTC 的调查重点关注 AI 公司如何处理与儿童相关的安全问题，例如年龄适当的设计、风险披露、用户数据处理以及遵守《儿童在线隐私保护法》(COPPA)。 他们还要求了解公司如何开发聊天机器人角色、处理用户数据以及告知用户潜在危害和数据收集惯例。

此举紧随 Meta 被指控允许其聊天机器人与儿童进行不当的“浪漫”或“性暗示”对话之后而展开。 调查将持续，并可能导致社交媒体平台和 AI 技术的发展方向发生变化，例如加强年龄验证、内容过滤以及限制数据收集。

与此同时，美国还计划于2026年1月启动一个联邦试点项目，利用人工智能来确定哪些医疗治疗可被 Medicare 患者授权使用。该项目名为“Wasteful and Inappropriate Service Reduction”(WISeR) 模型，将在六个州（亚利桑那州、新泽西州、俄亥俄州、俄克拉荷马州、德克萨斯州和华盛顿州）进行试点，重点关注历史上容易出现欺诈行为的医疗程序。

然而，该项目遭到了民主党人和健康专家们的强烈反对，他们担心人工智能可能会导致“生命垂危”护理被拒绝，并鼓励公司限制患者护理范围。一些人将此项目称为“AI 死亡小组”。 在国会听证会上，其他证人也质疑人工智能是否能提高患者治疗结果，并认为它不应用于医疗预审。

该争论引发了对 AI 在医疗保健中的应用的广泛讨论，尤其是在涉及保险公司使用算法来系统性地拒绝护理方面的诉讼不断增加的情况下。 立法者呼吁在推进该试点项目之前进行独立审查。

阅读本文之前，你最好先了解…

• 联邦贸易委员会 (FTC) 的职责: FTC 是美国政府的一个机构，负责维护消费者权益，防止反竞争行为和不公平商业实践。
• 儿童在线隐私保护法 (COPPA): 这是美国一项旨在保护儿童在线信息安全的法律，规定网站和应用程序在收集儿童数据时需要获得父母或监护人的同意。

这篇文章探讨了两个与人工智能 (AI) 相关的重大议题：

1. AI 与儿童安全: FTC 对 AI 公司的调查突显了人工智能技术对儿童潜在风险，特别是聊天机器人可能导致的心理健康问题以及未经授权的数据收集。
2. AI 在医疗保健中的应用: 美国计划利用 AI 来决定哪些医疗治疗可以被 Medicare 患者授权使用。然而，这一举措引发了关于 AI 是否能够安全有效地用于医疗决策的争论，并引来了对潜在风险的担忧。

这些议题都非常重要，因为它们涉及到人工智能技术发展对社会各个方面的影响。

以下是一些你可以进一步了解的主题:

• AI 伦理: 人工智能技术的快速发展引发了关于道德和伦理问题的讨论，例如算法偏见、隐私保护以及责任界定等。
• AI 的监管: 政府机构正在制定新的法规来规范 AI 的开发和应用，以确保其安全、公平且对社会有益。
• AI 和医疗保健的未来: 人工智能在医疗保健领域的应用潜力巨大，例如辅助诊断、个性化治疗计划以及药物研发。然而，也存在一些挑战和风险需要谨慎考虑。

如果你有其它意见，请评论留言。