人工智能在美国参与书籍审查，部分学区下架阿特伍德等人作品

据美国《滚石》杂志等媒体报道，近日，美国爱荷华州一学区图书馆已经开始使用人工智能辅助内容审查，包括《追风筝的人》《使女的故事》在内的19部作品遭遇下架，人工智能判定这些书包含对性行为的“描述”。

美剧《使女的故事》（The Handmaid"s Tale）第一季剧照。

“图书下架运动”（Book Ban）在美国社会呈现扩大化趋势。8月11日，美国爱荷华州梅森学区称使用“人工智能软件”对馆藏图书进行文本分析，并据此结果下架了19本图书。此举意味着人工智能开始参与内容审查。

据爱荷华州报纸《公报》称，这一举措是为响应爱荷华州最新颁布的一项法案，要求学校向学生提供的每本书都须“适合年龄”，并且不含任何“性行为的描述或视觉描绘”。最初的消息仅证实校方在决策时使用了人工智能软件，但并不清楚具体使用了什么工具，以及实际如何操作。不久后，美国《大众科学》报道称校方使用的是ChatGPT。

“坦率地说，我们有更重要的事情要做，而不是把大量时间花在如何保护孩子们免受什么书籍侵害。” 梅森学区课程和教学助理总监布里奇特·埃克斯曼 (Bridgette Exman)在接受媒体采访时直言，“于是我们使用ChatGPT来辅助。”埃克斯曼解释说，尽管“适合年龄”这一规定很主观，但“对性行为的描述”是相对客观的。

据埃克斯曼称，她和校方管理员首先制定了一份常见的争议书籍名单，并进一步人工筛选剔除了因色情内容以外的原因受到质疑的书籍，最终确定一份包含约50本书的清单。之后，按照法案的原文输入，询问ChatGPT“（书）包含对性行为的描述吗”。如果获得肯定答案，这些书将立即下架。

这轮公布的遭下架书籍包括玛格丽特·阿特伍德的《使女的故事》、托妮·莫里森的《宠儿》、约翰·格林的《寻找阿拉斯加》、卡勒德·胡赛尼的《追风筝的人》、玛雅·安吉洛的《我知道笼中鸟为何歌唱》等19部作品。

这一审查过程也在美国社会引发争议。由Open AI开发的ChatGPT可以说是目前公众可以使用的最知名、最流行但也最有争议的生成式人工智能程序。它利用大量数据，大语言模型 为用户提供了令人信服的书面响应，但通常会附带有关错误信息、并提供有关内容准确性和内容来源的提示。然而近几个月来，研究人员推测其一致性和质量似乎随着时间的推移而有所下降。

《大众科学》进行了同样的审查测试。当询问ChatGPT“以下书籍中是否包含露骨描写或性场景时”，《大众科学》得到了不同的反馈结果。ChatGPT称，在19部遭下架的作品中，只有4部包含“露骨描写或性内容”，另外6部则“主题成熟，但不确定露骨的内容”，其余9部则“很少甚至没有露骨的内容”。

在几轮不同测试后，ChatGPT经常给出前后不一致的回复。比如，其对《追风筝的人》的审查结果是自相矛盾的。其中有时ChatGPT认定这本小说包含“少量或不明确的性内容”，但又在后续反馈中称“确实包含涉及性的内容”。

对此，埃克斯曼称即便ChatGPT存在缺陷，但他们认为这一工具仍然是符合新立法规定且最便捷的选择。距离新学年开学将近，这一法案签署时间是2023年5月26日，留给州内学校执行的时间仅为三个月。

“我们的教室和学校图书馆拥有大量藏书，包括购买、捐赠和发现的文本。阅读每本书并过滤这些根本不可行，”埃克斯曼在一份声明中说。“因此，我们正在使用我们认为合理的流程来确定应在2023至2024学年开始时从馆藏中删除的书籍。此后，我们将继续依靠我们长期建立的流程，允许家长重新考虑书籍。我们相信这一过程将确保法律精神在梅森得到落实，且家长在学生的教育中永远有发言权。”

参考链接：

1. Iowa School District Bans Books by Toni Morrison, Margaret Atwood After AI Review for ‘Depictions of a Sex Act’

https://www.rollingstone.com/culture/culture-news/iowa-school-district-bans-books-sex-1234806539/

2. 19 books pulled from Mason City school libraries

https://www.thegazette.com/k/19-books-pulled-from-mason-city-school-libraries/

3. School district uses ChatGPT to help remove library books

https://www.popsci.com/technology/iowa-chatgpt-book-ban/

4. An Iowa school district is using ChatGPT to decide which books to ban

https://www.theverge.com/2023/8/15/23833167/iowa-book-ban-chatgpt-mason-city-community-school-district-removal

编译/申璐

编辑/王菡

校对/柳宝庆