您现在的位置是:首页 > 互联网 > 正文

FTC关于使用人工智能和算法的提示

发布时间:2024-07-16 18:17:59来源:

导读 人工智能技术可能看起来是客观且无偏见的,但是FTC警告可能会产生不公平或歧视性的结果,或者永久存在现有的社会经济差异。例如,联邦

人工智能技术可能看起来是客观且无偏见的,但是FTC警告可能会产生不公平或歧视性的结果,或者永久存在现有的社会经济差异。例如,联邦贸易委员会(FTC)指出,意图良好的算法可用于做出积极的决定,但结果可能会无意间不成比例地影响特定的少数群体。

FTC不想误导消费者。它提供了以下示例:“如果公司使用doppelgängers(无论是假的约会个人资料,虚假的追随者,深造假货还是AI聊天机器人)误导消费者,该公司可能会面临FTC强制执行的行动。”

企业从第三方消费者报告机构(CRA)获得AI数据,并根据州和联邦《公平信用报告法》(FCRA)法律对此做出决策,具有特殊的义务。根据FCRA,将“收集”消费者信息以自动进行有关信贷,就业,保险,住房或类似福利和交易资格的决策的供应商称为“消费者报告机构”。依赖于基于第三方供应商信息的自动化决策的雇主是该信息的用户。作为用户,如果企业对消费者采取不利行动,则必须向消费者提供FCRA要求的“不利行动通知”。通知的内容必须适合不良行为,并且可能包含包含AI信息的“消费者报告”的副本,联邦权利摘要和其他信息。作为CRA的卖方有义务执行合理的程序,以确保消费者报告的最大可能准确性,并为消费者提供访问其自身信息以及纠正任何错误的能力。FTC正在寻求透明度,并能够根据消费者的要求提供解释清楚的AI决策的能力。

雇主要点

仔细检查AI的使用,以确保不会导致歧视。根据联邦贸易委员会的说法,出于信誉目的,使用邮政编码等算法可能会对特定的受保护群体产生不同的影响。

数据的准确性和完整性是关键。

AI模型的验证对于最大程度地降低风险很重要。验证后监视和定期重新验证也很重要。

审查联邦和州FCRA法律是否适用。

标签:

上一篇
下一篇