Stack Overflow 拒绝 ChatGPT 生成的问答内容！错误概率太高了！

衡宇 Alex 发自 凹非寺
量子位 | 公众号 QbitAI

AI届当红炸子鸡ChatGPT，刚刚被程序员问答社区Stack Overflow禁用了！

芜湖，难道是因为有人感慨，ChatGPT非常强大，可以取代Stack Overflow？

但其实，Stack Overflow给出的官方公告里，是这样说的：

（这样做）的目的是减缓使用ChatGPT创建的大量答案流入社区。

因为从ChatGPT得到错误答案的概率太高了！

不过，官方也说了，这个措施只是临时的。

到底要不要永久在社区里禁用ChatGPT尚待研究，暂未决定。

“回答正确率太低”

昨天，OpenAI的CEO在推特上高兴地宣布，ChatGPT这个出生不满一周的家伙，已经拥有了超百万用户。

不过，大喜之余，有个小悲，那就是——

Stack Overflow临时禁止在社区内发布ChatGPT生成的文本。

Stack Overflow，程序员meme经常出现的段子之一，把自己活成了ChatGPT爆红时期最引人注目的段子。

这到底是为什么？

看了官方给的公告，总结下来不外乎一个原因。

最主要的目的，就是减缓使用ChatGPT创建的大量答案流入社区。

目前在Stack Overflow站内搜索，还能看到公告发布前，许多用ChatGPT在问题下的回答。

Stack Overflow官方认为，和ChatGPT对话得到的答案，正确率太低了。

而且，无论答案正确与否，它的所有回答看起来都很正儿八经。

但是ChatGPT的火热和极低的门槛，让很多人用它创建的答案在社区里进行询问和回答。

但是很多人在发帖时，缺乏相关专业知识，在发布之前又没有验证一下答案的正确性。

而且，ChatGPT给出回答的消息源也不能追溯。

对于一个程序员问答社区来说，这是非常有害的。

为了应对这个现象，可苦了Stack Overflow为管理基础设施质量的志愿者们。

他们只能没日没夜在铺天盖地的海量帖子中，去确认ChatGPT生成的问答到底是不是对的。

而且对想要找到保真问答的程序员来说，ChatGPT“入侵”Stack Overflow，也加大了他们的获取有效信息的成本。

为了从源头杜绝这种现象发生，StackOverflow做出决定：先禁止！

目前，Stack Overflow已经不允许发布ChatGPT创建的答案来提问或回答文章了。

临时措施发布后，如果还有用户在用ChatGPT搞事情，那Stack Overflow就不客气了——

将对这类用户实施制裁（具体咋制裁木有说）。

还是“格杀勿论”那种，哪怕除了使用ChatGPT外，用户的提问和回答行为和内容都是符合社区规定的。

现在，只是在站内搜索“ChatGPT”这个关键词，也因为要证明一下你不是机器人哦～

但无论怎么说，这个措施怎么说也只是临时的。

关于ChatGPT和其它类似AI问答软件，社区到底会有啥样的最终策略， Stack Overflow工作人员还在紧急讨论中，尚不确定。

公告评论区里，用户已经七嘴八舌说开了。

有人拍手称快，嚷着“永久封了它”。

有人也趁机表达了拿AI问答软件来社区互动的不满。

当然，也有人投出了自己的赞成票。

语言大模型的应用引起担忧

再来说下Stack Overflow到底是为何物。

简而言之，这是很多程序员都会用到的一个免费问答网站。

该网站有几个特点，一是不像一般的论坛，它没有闲聊区。

另外，那些观点类、可能引起激烈讨论的问题一般都会被临时“和谐”掉，得是能出确切答案的问题才行。

也就是说，假如你在该网站上提出一个很主观的问题，网站很可能不会公开显示出来，直到你把问题修改到合规为止。

新用户起初只能提出问题或给出回答。但是你可以通过问答等赚积分（这里是Reputation），然后解锁各种功能。

包括评论、编辑他人的帖子、选择隐藏或展示别人的问题，最高等级的用户还能网站内部的工作人员一起来搞分析维护。

而ChatGPT，则是OpenA最近新推出的聊天AI，能生成代码、修复 bug，其回答各种问题的能力更是惊艳了一大波人。

不过，目前Stack Overflow以及不少AI专家已经对背后的语言大模型产生了担忧，至少是有些顾虑。

Lecun也说，基于语言大模型开发出的文本生成类工具，可能会使广泛传播错误信息变得更容易。

IBM科学家Grady Booch的态度则更坚定。

还有人指出，即使AI回答正确，但这对于不少内容创作者来说，将是一场不小的打击。

One More Thing

对于Stack Overflow临时禁用ChatGPT生成的答案，我们询问了ChatGPT本尊的看法。

我们还问，如果StackOverflow确定禁用的话它会怎么办。

结果人家倒是很淡定：

ChatGPT传送门：
https://chat.openai.com/chat

参考链接：
[1]https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned
[2]https://www.reddit.com/r/programming/comments/zd71vl/chatgpt_ai_generated_answers_banned_on_stack/
[3]https://stackoverflow.com/tour?mnu=1

------

我们创建了一个高质量的技术交流群，与优秀的人在一起，自己也会优秀起来，赶紧点击加群，享受一起成长的快乐。另外，如果你最近想跳槽的话，年前我花了2周时间收集了一波大厂面经，节后准备跳槽的可以点击这里领取！

推荐阅读

• ChatGPT 写出毁灭人类计划书，还给出相应的代码？
  

• 耗时两周从Vue 2迁移到Svelte后：代码执行更快、体验更佳
  

• Forest + IDEA = 双倍快乐，ForestX 隆重登场！
  

··································

你好，我是程序猿DD，10年开发老司机、阿里云MVP、腾讯云TVP、出过书创过业、国企4年互联网6年。从普通开发到架构师、再到合伙人。一路过来，给我最深的感受就是一定要不断学习并关注前沿。只要你能坚持下来，多思考、少抱怨、勤动手，就很容易实现弯道超车！所以，不要问我现在干什么是否来得及。如果你看好一个事情，一定是坚持了才能看到希望，而不是看到希望才去坚持。相信我，只要坚持下来，你一定比现在更好！如果你还没什么方向，可以先关注我，这里会经常分享一些前沿资讯，帮你积累弯道超车的资本。

点击领取2022最新10000T学习资料