教授表示，由于ChatGPT的数据授权被关闭，其两年的学术成果在瞬间化为乌有

近日，若想给房东发一封态度强硬的邮件，反映天花板漏水的问题，需要找人帮忙把把关，ChatGPT或许是个合适的工具。不过和其他同类产品一样，ChatGPT也有不少有证可查的缺点：它不仅经常生成虚假信息，还带有一种讨好的口吻，很容易让用户产生严重的认知错误。

换句话说，它绝非人们处理重要工作时可以依赖的工具，科隆大学植物科学教授马塞尔・布赫就吃了大亏，才明白了这个道理。

布赫在《自然》杂志的一篇专栏文章里直言，自从关闭了ChatGPT的“数据授权”功能，他过去两年用心整理的学术成果，像科研经费申请材料、论文修订稿、课程讲义以及考试题目等，全都“消失不见了”。

他当时关闭这项功能，是为了验证“即便不把个人数据提供给OpenAI，自己还能不能使用该模型的全部功能”。但让他崩溃的是，所有聊天记录一下子就消失得没了踪影。

“没有任何预警提示，”布赫写道，“也没有撤销选项，只留下一片空白的页面。”

这篇专栏发布后，有网友提出疑问，布赫为何两年来都未进行本地备份？还有人十分气愤，呼吁学校解雇他，原因是他在学术工作里过于依赖人工智能。

不过，也有部分人对他抱有同情。海德堡大学教学协调员罗兰・格罗姆斯在社交平台发文表示：“虽然马塞尔・布赫的工作流程存在不少漏洞，还犯下了一个愚蠢的错误，但他敢于将这段经历公之于众，这一点值得认可。不少科研人员都自认为能看穿所有陷阱，可实际情况是，每个人都可能因为一时的疏忽，陷入这样的困境。”

布赫也首先承认，ChatGPT生成的内容“看似说得很有道理，实际上有时却错误不少”。他着重指出自己从来没有“把模型的可靠性和内容的真实性划等号”，不过他“信任平台工作区的连贯性和外在稳定性”，每天都会将ChatGPT Plus当作随身助手来使用。

生成式人工智能在科学界的应用，始终伴随着争议。《大西洋月刊》曾指出，众多来源模糊、由AI拼接而成的低质量稿件正持续涌向各类科学期刊，使得同行评审陷入“灾难”境地。更严重的是，一些专门刊载AI生成垃圾稿件的虚假学术期刊也随之出现，借此谋取利益。最终导致的局面是：AI生成的劣质内容，再交由AI模型开展同行评审，这无疑进一步加重了对学术文献的污染程度。

与此同时，科研人员经常收到通知，被告知自己的研究成果在新论文中被引用，但点进去后却发现，相关引用内容纯属AI虚构。

需要明确的是，目前没有任何证据表明，布赫曾试图将AI生成的劣质内容塞给学生，或是发表不实的AI撰写研究成果。

尽管如此，他的这段惨痛经历，仍为所有人敲响了警钟。

布赫在专栏文章里批评OpenAI，称其在尚未提供能避免用户多年心血付诸东流的“基础防护手段”时，便仓促推出了ChatGPT Plus付费订阅服务。

OpenAI在回复《自然》杂志的声明里表示，聊天记录一旦删除就“无法恢复”，同时对布赫“没收到任何提示”的说法进行了反驳，指出“用户在永久删除聊天记录之前，系统会弹出确认窗口”。此外，该公司还“贴心”地给出建议：“用户在进行专业工作时，要做好个人数据的备份。”