这些都是我们去年 5 月在旧金山举行的Mozilla 负责 西班牙商业传真列表 任的人工智能挑战活动上提出的问题。一些业内最优秀的思想家、伦理学家、技术专家和建设者齐聚一堂，庆祝人工智能的潜力，同时考虑其巨大能力所带来的责任。以下是我们从这次活动中学到的东西。
伊莫·乌多姆站在讲台上，面前的屏幕写着：“那些认为自己太渺小而无法改变现状的人，从来没有尝试过在房间里有蚊子的情况下入睡。”达赖喇嘛
Mozilla 创新生态系统高级副总裁 Imo Udom 于 2023 年 5 月在旧金山举行的 Mozilla 负责任人工智能挑战赛上发表讲话。图片来源：Mozilla
1. 无障碍让人工智能变得更好
领先的人工智能伦理学家玛格丽特·米切尔博士分享说，2011 年，在研究生成图像描述的技术时，她和她的同事遇到了所谓的“一切都很棒”问题。该系统从人们在社交媒体上分享的照片和标题中学习，这些照片和标题大多是正面的。因此，即使图像描绘的是悲剧事件，该模型也会不断生成积极的描述。
人们分享“美丽的日落、壮丽的景色、绚烂的天空……[所以当计算机]看到这场可怕的爆炸时，它会说‘太棒了’。那一刻我意识到我们使用的数据直接影响了模型的学习，”米切尔博士说。“我们看到无数人可能受伤，而计算机却不知道死亡意味着什么。它不知道爆炸和炸弹是负面的东西。它看到的是天空中的紫色和粉色。”
由于辅助技术具有将视觉与语言联系起来的潜力，米切尔博士总结道，这些模型优先考虑的数据与视障人士的需求不符。盲人需要的是有关图像的背景和实用信息，而不是仅仅基于现有数据的描述，因为这些数据可能会有偏差。
自那时以来，图像生成等人工智能系统取得了进展。教训是：无障碍不仅确保公平地获得技术进步，还鼓励我们创新，以便我们能够为所有人创建更好的系统。
玛格丽特·米切尔博士在台上演讲。
玛格丽特·米切尔博士于 2023 年 5 月在旧金山举行的 Mozilla 负责任人工智能挑战赛上讨论了人类偏见如何影响人工智能技术。图片来源：Mozilla
2. 为了解决人工智能的局限性，我们需要（人类）思考者
尽管人工智能多年来取得了长足进步，但最近在美国参议院就人工智能问题作证的著名学者加里·马库斯博士认为，深度学习系统仍然面临重大挑战。例如，它们无法逐步更新新知识。这可能导致大量错误信息。
“我们有关于诽谤的法律，但如果有人每天制造十亿条完全合理的错误信息怎么办？”马库斯博士说。“我们要把这当成言论自由来对待吗？还是更像商业言论？应该区别对待吗？我们还没有制定这样的法律。”
这就是关注该领域不断变化专家的作用所在。
“我们现在做出的选择将影响下一个世纪，”马库斯博士说。“如果没有科学家和伦理学家的参与，我们的前景就不乐观。我们不能不监管。我们也不能承受监管俘获。我们必须把这件事做好。”
加里·马库斯博士在 2023 年 5 月于旧金山举行的 Mozilla 负责任人工智能挑战赛上指出，深度学习系统面临重大挑战，其中一些挑战可能会导致错误信息的传播。图片来源：Mozilla
3.专家对人工智能的能力持乐观态度，包括医疗电子领域的进步
科技专栏作家、播客兼作家 Kevin Roose 报道人工智能已有十多年。他做出了几个预测：Roose 表示，由于人工智能相对新颖，立法者对该技术的了解有限，2030 年之前不太可能出台有意义的监管。他预计会有性能更好的模型，研究人员和使用人工智能模型构建产品的公司将推动更安全的系统。
他还预测了人工智能的巨大潜力，特别是在推动药物开发方面。
罗斯说：“我认为，使用人工智能研发的药物有 30% 的可能性，可以在 2030 年前将十大癌症的死亡率降低 50%……我不是医生，但这是该领域的专家告诉我的。我相信他们。”
