技术为器思考为根 拒绝做AI的“傀儡”

□本报评论员 赵春晖
　　近日，安徽滁州67岁农户吴大伯根据AI生成的除草除虫办法喷洒农药，没想到150亩芝麻苗一夜之间全部枯萎。吴大伯告诉记者，他是一年多前接触到了AI软件。“我什么都问AI，比方什么时候用农药，什么时候施肥，之前给的答复都比较完善。”吴大伯说，起初他对AI生成的办法也是将信将疑，但时间久了，慢慢他就完全听AI的了。　　　　（据荔枝新闻）
　　一位年逾六旬的农民，愿意主动学习并使用AI，本身非常值得鼓励。但因为过度依赖并盲目迷信AI，导致错误喷洒农药，蒙受巨大损失，着实让人既心塞又心疼。对此，不能一味苛责其“愚昧”“盲听盲信”，更需要反思的是，对待AI，我们究竟该抱以何种态度？
　　AI并不真正理解事实的真假，也不具备人类意义上的判断能力。简而言之，它不会思考，只是模仿。当训练数据中本身存在错误信息，或者用户的问题超出了它的知识边界，AI就可能依据统计规律，拼凑出一套看起来很合理、但实际上并不准确的答案。这就导致其生成的内容虽然看上去“一本正经”，其实是在“胡说八道”，也就是广为人知的“AI幻觉”。如果对AI生成的内容不加思考，盲目信任、全盘接受，很容易被它带偏，轻则作出错误判断，重则蒙受巨大损失。
　　古语有云“尽信书则不如无书”，对AI技术同样如此。AI当然可以使用，但切莫过度依赖，更不能盲目信任其生成的内容。如果确实需要借助AI，一定要保持严谨的态度，提高辨别能力，可以通过多个AI平台对信息进行交叉比对印证，最好是寻找到权威信息源头进行细致核实。尤其是涉及到财产、健康等重要内容，一定要从官方渠道获取权威信息、专业信息，绝不能过度依赖AI生产的内容。
　　当然，面对“不懂装懂”的AI，不能仅靠用户自行提高警惕，还必须对技术发展、产品伦理、平台管理等予以规范和引导。比如，AI在生成内容时，需要说明自己的内容生成过程借鉴了哪些网络信息，确保关键信息的来源足够权威、足够专业、方便验证。另外，对一些关键问题必须做到强制提醒，提醒信息一定要足够清晰明了，可以建立专业的内容审核机制，在输出答案时，把可能的风险、适用条件等重要信息标注清楚，让用户充分了解风险。此外，在医疗、安全、金融、生产、隐私等涉及生命财产安全的领域，要设置“熔断机制”，可以着重提醒风险，谨慎给出答案，防止用户因误信AI内容产生严重后果。
　　技术无论发展得再迅猛，都不能完全代替人的思考。AI只是一种工具，可以作为辅助，但绝不能把其当作权威。盲目迷信，只会自食苦果。AI时代，真正的安全感来自理性的思考和独立的判断，而不是做AI的“傀儡”。