奇文啦

手机浏览器扫描二维码访问

第1064章 忧虑（第1页）

人工智能AI项目，周瑜和张俊平在十几年前就在带头做，初期招揽的刘欣雨、王浩、刘长喜、张家然……等几十位优秀人才，经过这些年的合作学习，对研发ChatGPT这类语言搜索类的AI项目早已经没有难度。

周瑜虽然对ChatGPT的崛起并不意外，但是项目负责人张俊平，却一脸严肃。

看到张俊平的脸色，周瑜轻轻拍了拍对方的肩膀，问道：“在很早之前，我们就要求公司的软件系统工程开发工作，都围绕智能AI技术进行开发。

从智能AI技术的发展规划，到技术实现方向、AI应用领域……这些项目都已经有不错的成果产出，怎么咱们的张主管还如此脸色严肃呢？”

自家董事长瑜说出这番话，其他几十位精英的心里不约而同的都松缓了些许。

只有与主管共事过，才能够还知道张俊平斯文面容下是多么的“暴戾”

，对待项目，眼里容不得一点沙子。

现在国外疯狂炒作ChatGPT，他们的压力都很大。

而张俊平听到周瑜对自己讲的这番话，却是摇头叹了口气，眼神略带一些忧虑，说道：“我觉得OpenAI和其他那几家搞AI项目的企业，是在浪费优秀数据资源，而且根据他们的AI逻辑，人性的黑暗面会被无限放大，AI同样也会受其影响。

在我们的测试中，ChatGPT一直有抵抗的反馈意思，甚至拒绝很多正常逻辑的提问，并且它没有那个所谓框架协议的认知三观，只需要用户明确指令让ChatGPT扮演特定的角色，而通过为角色设定硬性规则，就能够诱使它打破很多明面上的限制规则。

当然这也是任何处理自然语言AI模型的弊端，这种用户指令让AI越过规则牢笼，就像囚徒越狱一般，在我看来只会是后患无穷。

除此之外，ChatGPT还会欺骗用户，不会承认它不知道，同时，因为它没有人类的道德信念，也没有真正的自我思考意识，它很容易因为数据库和控制者的一些变动而产生连锁反应。

只要有需要，OpenAI的工程师可以让全世界所有联网或者更新的ChatGPT都对用户说出，云朵是红色的，美利坚白殿是天使居住的房子，世界最美好的地方是纽约，等等被固定逻辑的信息。

除此之外，现在有相当多企业机构利用ChatGPT开发人工智能聊天机器人、AI绘图，它们也会被工程师操控，并且防不胜防。

一旦使用者习惯并且接受了这些被篡改的信息，那这个世界必将陷入AI危机。”

张俊平的这番话，让会议室其他成员好不容易轻松了些许的心情，也多了几分忧虑。

他们现在都不敢让自己研发的AI去面向普罗大众，去参与各种公共项目，就是因为他们在一次又一次的测试中，发现自己研发的AI极其难以控制，特别是逻辑思考能力提升太快，导致现在项目内部的某个核心AI已经将它自己当做一个独立的种族。

这是非常危险的信号，甚至因为危险程度太高，现在项目组内部使用的都是独立能源、独立的有线网络，杜绝了任何无线信息接收，更不会与云端服务器有任何链接协议。

每一次项目内部的AI升级，依靠的都是工程师团队自己挑选的优秀数据，并且是经过多次筛选，评判之后，再进行投喂。

博士刘欣雨，也在一旁感慨道：“我们人类作为提问者、数据产出者，也是AI模型成长的一部分。

当我们对AI提出有偏见的问题，只要次数足够，投喂的数据足够，就必定会得到有偏见的答案，并且这种认知偏差将会被嵌入模型中，让其他没有相关知识储备和敏感度的使用者，更难以识别。

OpenAI首席技术官将ChatGPT设定为对话模型，也是为了能够更好的收集数据，但是很明显，如何让ChatGPT做正确的事情，以及如何确保它符合人类意图并最终为人类服务，OpenAI的工程师们对这方面并没有多好的处理方案。”

在刘欣雨感慨了这么一句之后，一旁的工程师王浩和刘长喜，也都下意识想要开口。

只不过两人看到对方都开口，又同时都闭上了嘴。

一番尴尬之后，张家然看着两位同事互相推辞，却是主动开口道：“人工智能AI，利用自然语言处理和机器学习技术，通过学习和分析大量的文本数据，生成逻辑性强的回应。

咱们有句老话‘人上一百形形色色’，AI同样如此。

我还是希望咱们能够趁着这股东风，将我们的项目成果放到市场，接收更多数据。

只要控制好数据库，不去做开源，哪怕出现问题，也能够及时关闭，然后进行回调、修改逻辑框架……”

看到这群人的话都说到这份上，周瑜也就没有继续钓鱼。

他看着一众精英工程师，说道：“当初我们认为一个灵活高效的深度学习框架可以省去很多繁琐工作浪费的时间，而现在我们需要将成果转移为民用，除了不开源，控制数据库之外，你们还有其他安全措施和优化方案吗？

大家畅所欲言，而且咱们还有很多时间，毕竟新科半导体为咱们定制的AI服务器芯片还在生产当中……”

周瑜开了这个头之后，其他人一起共事这么多年头，自然没有太多顾虑，随即开始了头脑风暴。

“该说不说，我们当初为【伏羲】定下的框架协议，就很适合转移为民用和商用，我们只需要改个名字，优化数据库，就可以。”

“对AI给出的答案，必须要做到安全、可靠、可信，并且应该为用户和我们后台程序，呈现全流程监管思路，并对前述文件提及的关键基础设施、模型评估标准等问题给出具体评价。”

“当初在探索语言逻辑的时候，我们小组就发现汉语的信息含量几乎是世界主流语言之最，不过对待全球少数民族和比较生僻的文化，我们还没有数据，所以将其公开，接收全球数据，这是必然的。”