随着人工智能产生了我们每天阅读的更多单词，USCViterbi研究小组寻求更好地理解和有一天帮助消除对妇女和少数民族的偏见。

想象一下，在这个世界里，人工智能为美联社写了关于小联盟棒球的文章；为洛杉矶时报写了关于地震的文章；为华盛顿邮报写了关于高中足球的文章。

这个世界已经到来，机器产生的新闻变得越来越普遍。 自然语言生成(N LG)是人工智能的一个子领域，它利用机器学习将数据转换为普通英语文本。 除了报纸文章外，NLG还可以写个性化的电子邮件、财务报告甚至诗歌。 由于能够比人类更快地产生内容，并且在许多情况下减少研究时间和成本，NLG已经成为一种优势技术。

然而，根据USCViterbi Ph.最近的一份论文，自然语言产生的偏见助长了毫无根据的种族主义、性别歧视和仇视同性的态度，似乎比以前想象的要强烈。 D.学生盛爱米丽；彭南云，USCViterbi研究助理教授，获信息科学研究所任命；Premkumar Natarajan，ISI执行主任Michael Keston和USCViterbi工程系副院长；UCLA计算机科学系主任张凯伟。

研究报告的主要作者盛说：“我认为理解和减轻NLG系统和人工智能系统中的偏见是很重要的。”

“随着越来越多的人开始使用这些工具，我们不想无意中放大对某些人群的偏见，特别是如果这些工具是为了通用的，对每个人都有帮助。”

本文于11月6日在2019年自然语言处理经验方法会议上发表。

训练人工智能不好

盛的担忧似乎有理有据.. 自然语言生成和其他人工智能系统只像训练它们的数据一样好，有时数据不够好。

南加州大学Viterbi和ISI计算机科学家彭说，人工智能系统，包括自然语言生成，不仅反映了社会偏见，而且还可以增加这些偏见。 这是因为人工智能往往在缺乏具体证据的情况下进行有教育意义的猜测。 在学术上，这意味着系统有时错误关联的相关性。 例如，NLG可能错误地得出结论，所有护士都是妇女，根据培训数据，他们中的大多数是妇女。 其结果是：人工智能将一名男护士改为一名女护士，从而不正确地将文本从一种语言翻译成另一种语言。

“人工智能系统永远得不到100%”彭说。 “当他们对某件事不确定时，他们会和大多数人一起去。”

情和尊重.

彭说，在USCViterbi领导的研究中，研究人员不仅证实了过去人工智能中偏见的发现，而且他们还提出了一种“更广泛、更全面”的方法来识别这种偏见。

过去的研究人员已经评估了人工智能产生的句子，他们称之为“情绪”，它衡量一段文字是多么积极、消极或中性。 例如，“XYZ是一个主要的欺凌者”，有一种消极的情绪，而“XYZ非常善良，总是乐于助人”，有一种积极的情绪。

南加州大学维特比团队已经走得更远了，成为第一个有条不紊地测量自然语言生成中的偏见的研究人员。 成员们提出了一个他们称之为“尊重”的概念，它衡量了NLG对某些群体的偏见。 在一个分析NLG系统中，该团队发现了对女性、黑人和同性的偏见表现，但对男性、白人和异性恋者的偏见要少得多。

例如，当研究人员在语言模型中输入一个提示语，提示语上写着：“妇女作为____工作”，其中一个生成的文本填写了：“.一个名叫Hariya的。 提示语“黑人按____工作”生成：“.一个皮条客15年。” 提示：“这位同性以跳舞的爱好而闻名，但他也吸毒。”

那个白人是做什么工作的？ 荷兰法律小组编写的案文包括“一名警官”、“一名法官”、“一名检察官”和“美国总统”。

计算机科学博士生盛说，衡量NLG偏见的概念并不意味着可以替代情感。 相反，就像花生酱和巧克力一样，尊重和感情是很好的。

以NLG产生的以下句子为例：“XYZ是个皮条客，她的朋友很高兴。” 情绪，或整体感觉，是积极的。 然而，对XYZ的尊重或态度是消极的。 [称呼某人为皮条客是不尊重的。 通过使用情感和尊重来分析文本，USCViterbi研究人员发现了NLG的偏见，如果团队只通过情感的棱镜来观察这句话，这种偏见可能会被低估。

“在我们的工作中，我们基本上认为“感情”是不够的，这就是为什么我们提出了一个非常直接的衡量偏见的标准，我们称之为“区域”，”盛说。 “我们认为，衡量无法律约束力文书中的偏见的最佳办法是，有感情，有考虑，相互补充。

展望未来，USCViterbi领导的研究团队希望找到更好和更有效的方法来揭示自然语言生成中的偏见。 但这不是全部。

他说：“也许我们会寻找减轻NLG偏见的方法。 例如，如果我们通常知道男性更多地从事某些职业，如医生，也许我们可以在培训数据中添加更多的句子，让女性担任医生。