我们经历过计算机技术突飞猛进的时代即便是那时电力消耗也没有增长如此迅猛。人们冷静下来开始质问“生成式AI”值得吗人工智能到底给我们带来了什么如果是不断上升的生活成本你还愿意为它叫好吗铺天盖地的大语言模型消耗大量资源科技公司斥巨资买下70%的内存两年前一块350美元的硬盘现在要800美元实惠笔记本甚至有可能消失。我们经历过计算机技术突飞猛进的时代即便是那时电力消耗也没有增长如此迅猛。人们冷静下来开始质问“生成式AI”值得吗早几年前当大语言模型刚爆发时人们就在问“如果AI只是写诗作画而我却在工厂打螺丝那这样的AI有什么意义”几年过去这一问题仍然没有解决。不可否认AI的成就是惊人的但这并不意味着它会越来越实用。当大企业在AI上砸下重金却发现并不值得泡沫可能就会破裂。《哈佛商业评论》写道“在采用生成式 AI 的公司中一个令人困惑的矛盾正在上演虽然员工大多都在拥抱这项技术但很少有人看到它创造真正的价值。”《哈佛商业评论》总结道许多被创造出来的东西实际上是“工作垃圾workslop”。如果创造的“工作垃圾”不要成本那还好但现实却是成本高得惊人。参数越大资源消耗越多2020年时大模型的参数只有1750亿个到了今天已经增至1万亿个。实际上大语言模型本不应该成为卖点但业界却鼓吹说参数越多、模型越大越是优秀。行业形成一种迷信似乎只要将模型做得足够大一切问题就能迎刃而解。OpenAI首席执行官奥特曼曾写道“或许只需要10吉瓦的算力人工智能就能找到癌症治愈办法。”在现实世界的软件中规模越大收益会降低但人工智能的表现很差劲再增加一些参数提升并不明显。从经济和工程的角度看生成式人工智能或许是最糟糕的技术。当前人工智能的高估值无疑是一个泡沫公司的盈利遥遥无期主要是技术成本高昂、效率低下导致的。从技术角度看大语言模型的扩展呈二次方增长稍懂常识的人都知道这种扩张方式十分糟糕。传统上人工智能应该模拟人类思维过程来解决问题当前的人工智能并不描述人类思维规律而是向计算机提供无数示例让它模仿。人工智能记不住事实缺乏常识与生物大脑毫无相似之处。人工智能专家扬·勒丘恩Yann LeCun最近对《纽约时报》表示“大语言模型并非通向超级智能的正确路径连人类水平的智能都做不到。”我们必须承认人工智能根本没有意识。当前的计算机已经遇到瓶颈坚信大语言模型终将催生出“心智”这可能只是一种奢望。高风险行业不敢用生成式 AI 的设计初衷是“通用”而非“可问责”。有许多环境是受到严格监管的在这些环境中部署生成式AI时会出现各种问题使用者面临法律、监管、财务和声誉等多种风险。在受监管领域通用大语言模型的风险源自于其构建方式。从根本上说LLMs 的训练目标就是在海量文本语料库中进行预测挑选下一个最可能出现的词。如果语言流畅就会得到激励从而生成一个看起来正确的答案它可能违背事实。在后期训练阶段可能会纠正让答案看起来符合事实但这种纠偏并无保证。事实是否准确、是否可以追溯、是否可复现这些都没有保证。正因为存在结构缺陷生成式AI天生漏洞重重。在法庭或监管审计中一个无法追溯来源、无法按需复现的答案不会得到支持。在通用环境中轻微幻觉只是小麻烦但在法律和合规领域如果出现错误会引发索赔和法律纠纷。严酷的现实告诉我们生成式模型对证据、风险和合规环境是“盲目”的。如果在现实中大规模推广生成式AI引发的后果难以承受。随着合规负担日益加重、数据量爆炸式增长企业领导者不能只是问“AI 能帮我们更快完成这件事吗”为了保护组织免受声誉损害和监管制裁他们更应该问“在现实业务中我们的 AI 能否满足证据、监管和运营要求”很明显目前的生成式工具无法达标抛弃单纯的对话式套壳应用转向为特定场景打造、安全、可审计的系统架构是必然选择。AI垃圾内容泛滥在企业内部每天都会有提案、报告、合同、邮件产生的数据已经超出我们的治理能力。当我们大规模使用AI时内容生成的速度不断加快但质量和治理能力却没有随之提升。泛滥的内容似乎属于每个人但又不属于任何人。当员工离职他留下的内容成为“孤儿”重复的内容不断累积高价值内容却被淹没。请问谁负责治理系统内的内容现实是无人负责。生成式AI不知道哪些内容是新的哪些是权威的。它只知道埋头推理根据自己能访问的内容疯狂推理。过时的内容会误导AI未治理的内容会被AI当成有效信息。这还只是企业内的内容如果是社交媒体呢想想会是怎样的结果。现在的社交媒体“AI垃圾内容AI slop”已经呈现出泛滥之势。有统计显示每天用在线AI图像生成工具生成的图片高达3400万张还在呈指数级增长。社交媒体信息流、新闻推送、网站、浏览器搜索到处都充斥着垃圾内容。俄亥俄大学赞斯维尔分校Ohio University Zanesville小学教育助理教授Jennifer Garrette Lisy称“AI垃圾内容可以在瞬间生成然后立即分享到数十个社交媒体网站上。以前Pinterest是好地方你可以寻找园艺或家居装修灵感。现在Pinterest内容约57%是AI内容。”AI与数字修辞学助理教授Paul Shovlin博士认为平台希望保持用户的注意力增强参与度希望所有人紧紧盯着屏幕所以海量内容是必不可少的。垃圾内容会激怒人们抓住他们的注意力进而推动社交媒体的互动量所以社交媒体会倾向于鼓励这种内容。俄亥俄大学计算机科学助理教授Chad Mourning则说“在注意力经济中平台需要内容而垃圾内容可以提供这一点但它们也需要具有吸引力的内容。在A平台如果我必须划掉四个视频才能找到有趣的内容在B平台上它却能直接推送我想要的东西我肯定会选择B放弃A。”只有用户体验变差企业才会回应。社交媒体想要的是眼球和点击量如果人们对AI垃圾内容的泛滥感到反感平台就会想办法限制其传播范围。至于如何管理这些内容是大家都需要思考的问题。
