两名内政部官员因 AI“幻觉”被停职
新闻首页 » 新闻 两名内政部官员因政策文件中出现 AI“幻觉”被停职
阅读时间：4分钟 2026年5月1日 08:48
相关文章
- 针对南非的外国旅行建议不会改变面包价格
- 认知卸载：你的孩子是否在将思考外包给 AI？以下应对方法
内政部修订的公民身份、移民和难民保护白皮书中发现了 AI 幻觉。 图片仅供示意。图片来源：iStock
内政部（DHA）成为最新一个在其政策文件中发现使用人工智能（AI）的政府部门。该部门于周四宣布，暂停两名与一份近期修订的关键政策文件相关的官员职务。 周四被停职的一名官员是公民身份与移民部门的首席主任，而负责起草该文件的主任的停职将于新一周开始时生效。
DHA 承认此事造成了尴尬，并表示将以此为契机推动其流程现代化。该部门表示，未来还将在内部审批流程中设计并实施 AI 检查与声明制度。
阅读更多：
- 一辆前往豪登省的马拉维巴士在林波波省发生车祸，数人死亡
政策审查即将展开
该部门发现的 discrepancies 与修订后的公民身份、移民和难民保护白皮书所附的参考文献列表有关。这些参考文献被认为属于“幻觉”——该术语用于描述由于缺乏可信数据而导致的大型语言模型产生的错误或虚构输出。 这些参考文献似乎是在事后生成并附加到文件中的，因为正文中并未引用它们。
DHA 表示，除了实施预防性停职外，该部门已任命两家独立律师事务所，分别负责处理纪律处分程序，并审查该部门自 2022 年 11 月 30 日以来产生的所有政策文件。选择这一审查日期，是因为当时首个大型语言模型 ChatGPT 已向公众发布。
相关文章：
- 针对南非的外国旅行建议不会改变面包价格
- 认知卸载：你的孩子是否在将思考外包给 AI？以下应对方法
适应以跟上步伐
此次停职发生一周前，通信与数字技术部（DCDT）被迫撤回其自身的 AI 政策文件。与 DHA 类似，该草案《国家 AI 政策》中也发现了虚构的来源和引用。 “最合理的解释是，AI 生成的引用未经适当核实就被纳入其中。这本来不应该发生。”部长 Solly Malatsi 表示。
该 AI 政策草案将被重新修订，DHA 也撤回了其文件所附的参考文献列表。不过，DHA 坚称，修订后的公民身份、移民和难民政策仍然准确反映了政府的立场，并对其内容负责。
阅读更多：
- 真实的人，真实的事实，而非 AI 垃圾内容
DHA 确认：“这些措施是通过广泛的跨部门协作和公众咨询过程得出的，并未受到独立参考文献列表中明显的 AI 幻觉的实质性影响。” 该部门承认 AI 在社会中的使用日益增长，并表示各机构应更加努力地正确利用其优势。 “这是一项具有变革性但同时也具有颠覆性的技术，正在改变私营和公共部门组织的运作方式。我们现在必须适应以跟上步伐。”DHA 总结道。
阅读更多：
- 虚假的 Met Gala 造型每年都在充斥你的时间线，AI 进步是罪魁祸首
支持本地新闻
将 *The Citizen* 添加为 Google 上的首选来源，并在 Google News 上关注我们，以便在 Google News 和 Top Stories 中查看更多值得信赖的报道。
在 Google 上添加为首选来源 在 Google News 上关注我们
阅读更多相关话题：
- 人工智能（AI）
- 内政部
- 移民
- 停职
- 新闻：汉坦病毒：Airlink 在延误八天后紧急追踪乘客
- 犯罪：警方不作为，残疾女性无法获得正义
- 政治：MK 党与独立选举委员会就选举舞弊指控举行会谈
- 新闻：针对南非的外国旅行建议不会改变面包价格
- 政治：MK 党是否拒绝了 Bongani Baloyi 在约翰内斯堡的市长野心？
编辑精选
下载我们的应用 在 WhatsApp 上获取最新新闻和更新 最新新闻直接发送至您的邮箱 支持本地新闻 在 Google 上添加为首选来源 在 Google News 上关注我们