代码屎山噩梦加速来袭，都是 AI 生成代码的锅？

“周边很多程度员一直在使用，都是用上就离不开了！”知乎上，在“大家现在使用哪些 AI 辅助编程工具？节省了多少工作量？”话题下，答主“以默”说道。 按照“以默”了解的情况，AI 辅助编程工具估计至少能帮程序员减少 30%的工作量。对于工具，他表示“当然首选 GPT，也可能是唯一答案！国产在这方面差距很大。”“综合能力水平: 4.0>3.5>国产大模型。模型能力越强，越好用！” 现在用 AI 辅助编程已经是很多程序员的选择，但随着 AI 软件开发迅速普及，代码质量又会随之受到怎样的影响？⻓期代码研究员 Adam Tornhill 就曾表示担忧，AI 辅助编程的主要挑战在于，它非常容易生成大量本来就不应该编写的代码。 根据最新研究，结果确实令人忧心。除了代码返工（即代码在添加后不久即遭删除）以外，重复代码比例升高等问题愈发严重。主要让“添加代码”&nb...

2024-01-27

OpenAI“宿敌”：放松不了一点！开源模型一不小心就变安全“卧底”

设想一下，如果我们兴冲冲地从网上下载了一套开源 AI 语言模型，用起来也没什么异常，最终却证明会造成恶意破坏，这会多么令人头痛。 上周五，ChatGPT 竞争对手 Claude 开发商 Anthropic 发布一篇关于 AI“卧底”大模型（LLM）的研究论文。具体来讲，这样的模型乍看之下一切正常，但在随后接收到特殊指令时却会以欺骗性方式输出存在漏洞的代码。该公司强调，“研究发现虽然我们用尽各种手段想要拉齐训练，但欺骗行为仍难以避免。” 怎么发生的？ 在 X 上发表的帖子中，Anthropic 介绍了这篇题为《AI 卧底：安全训练无法解决的欺骗性大语言模型》（Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training）中使用的方法。 论文地址：https://...

2024-01-22

钉钉抢做“中国版 GPT Store”

从 2014 年发布后的很长一段时间里，钉钉几乎把企业管理做到了极致：打卡、“DING"一下……以至于很多上班族纷纷吐槽听不得钉钉提示音、“讨好老板”……终于，钉钉想到要关爱一下我们“打工人”了。 2024 年 1 月 9 日，钉钉发布了好玩的职场人解压神器电子木鱼、个性化铃声和海报，也升级了个人协作 Tab 2。重要的是，钉钉还打响了 2024 年国内 AI Agent 探索的第一枪：发布了基于 70 万家企业需求共创的 AI 助理产品，包括企业超级助理和个人超级助理。 超级助理是一种能对自然语言做出反馈，并基于对用户或企业业务和数据的了解进行规划决策、来完成各种复杂任务的 AI 应用。钉钉超级助理底层使用了阿里通义千问，并基于钉钉 AI PaaS。钉钉超级助理有三个核心系统：感知系统、行动系统和思考系统。其中，感知系统基于钉钉各种丰富场景输入各种类型数据，...

2024-01-17

“AI 女友”霸占 GPT 商店，OpenAI 苦不堪言：开发者也难出头！

OpenAI 不久前推出了 GPT 商店，让开发者可以售卖自己定制的 GPT 机器人。商店刚开张，就积累了 300 万个不同类型的机器人。 OpenAI 将该商店定位为一个聊天机器人交易平台，每个机器人都经过了特殊训练，具备特定技能。例如，有可以帮你查菜谱的美食机器人，也有可以写代码的程序员机器人。 GPT 商店的推出在 AI 社区引起了广泛关注。支持者认为这是 AI 发展的一大进步，未来人们将更容易使用到优质的 AI 工具。反对者则担心这将影响开发者的收入，而且机器人的质量和行为规范也可能存在问题。总而言之，GPT 商店的利弊尚未可知，还需要我们进一步观察才能做出判断。 AI 女友成了香饽饽，OpenAI 管店不容易 上周，OpenAI 推出了 GPT 商店，用户可以浏览和下载由创作者们精心打造的 ChatGPT 定制版本。然而，短短几天内，商店的...

2024-01-16

美团买 AI 公司买个寂寞？创始人：王慧文替公司赎身；反对用盗版软件开发芯片被开除，公司回应；腾讯游戏全线崩溃

疑似华为员工自曝年收入超 200 万，光税前奖金就有 91 万；OpenAI CEO 奥特曼与同性男友在夏威夷结婚；裁员三连：谷歌、Meta、Discord……更多 AI 行业动态，关注公众号“AI 前线（ai-front）”热门资讯疑似华为员工自曝年收入超 200 万，光税前奖金就有 91 万 近日，一名疑似华为员工晒出了自己在奖金月的收入情况。据悉，这是该员工“收入人生巅峰”，税前奖金为 91 万，所得税超过 30 多万，加上股票 TUP、工资，“妥妥的年收入突破 200 万”。该员工表示，“我大华为发钱还是蛮大方的”。 根据华为发布的 2021 年经营财报，华为当年约有 19.5 万名员工，业务遍及 170 多个国家和地区，服务全球 30 多亿人口。而华为 2021 年发放工资、薪金及其他福利方面的费用为 1371.4 亿元人民币，简单计算可知，员工人均年薪为 7...

2024-01-15