周鸿祎:ChatGPT可能两三年内就会产生自我意识威胁人类_顶尖财经网

  您的位置:首页 >> 财经频道 >> 风险投资 >> 文章正文

周鸿祎:ChatGPT可能两三年内就会产生自我意识威胁人类

加入日期:2023-2-23 16:43:21

  “从知识来说,它像一个博士生,学识广博但还不会活学活用;从情商来说,它像一个油滑的中年人,说什么都滴水不漏,绝不得罪用户。但是,它实际上真正的能力像一个小孩子,需要进行问题和答案的训练来学习技能。再聪明的孩子都要通过训练才能解答没学过的奥数题。”

360创始人周鸿祎,澎湃新闻记者范佳来摄

  2月23日,360创始人周鸿祎在接受澎湃新闻等媒体采访时,再次提到大热的聊天机器人ChatGPT,并分享了他心中ChatGPT的“三重人格”。

  ChatGPT热潮正席卷全球。这款由“美国AI梦工厂”OpenAI制作的AI聊天机器人软件,只用了两个月时间,月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。

  此前,周鸿祎曾经多次在公开场合谈到他对ChatGPT的观察。在他看来,ChatGPT已经拥有或接近拥有了人类智慧,并正处于通往“通用人工智能”的临界点。“我们认为它是一个通用人工智能的奇点,而通用人工智能也还有一个隐含的拐点,它可能是一个强人工智能。”

  ChatGPT具有类人特征:有编故事的能力

  在采访现场,周鸿祎完全不掩饰他对ChatGPT的兴奋。

  在他看来,ChatGPT是一种生产力强大的再造工具,而不仅仅是赋能特定行业。“过去说大数据像‘石油’一样,但大数据不能直接用,ChatGPT像一个发电厂,烧了石油,把石油灌进去之后就可以产生电力,用云服务的方式把它接入到千家万户、千行百业,它对整个产业都会发生巨大的影响。所以,这直接决定未来下一个十年中国和其他国家的科技产业差距:是形成落后还是迎头赶上。”

  ChatGPT将通过上千亿的系统参数,实现原先设计者预想不到的能力。“这就像从猿到人的过程中肯定有一个临界点,当大脑的神经网络链接数目、脑细胞数目等多到一定程度时,人的智力和动物相比就产生了质的飞跃。”

  周鸿祎表示,ChatGPT和其他人工智能最大的区别、也是其类人特征是,原来的人工智能并没有实现对知识全部的理解和编码,本质都是按照关键字匹配已有的回答,但ChatGPT没有“固定答案”:“我当时问了它一个问题,赵匡胤为什么招安了宋江,杀掉了岳飞,这个无厘头的问题,它也煞有介事地回答了一遍,能够自己‘编’故事,这才是它的真正智能所在。”

  “ChatGPT可能在2-3年内就会产生自我意识威胁人类。”在采访现场,周鸿祎“语出惊人”。他提到,任何行业的APP、软件、网站、应用,如果加持上GPT的能力,都值得重塑一遍。“不要把它当成一个媒体工具、搜索引擎、聊天机器人,这都有点把它看的太小儿科了。”

  他表示,ChatGPT和传统人工智能的训练不一样,需要经过多维度的训练。首先是囫囵吞枣、不求甚解的读上几百万本书,获得人类知识,但是依然不具备解决问题的能力。其次需要专业的人工智能训练师去培养它回答问题的能力,其中也催生出大量的新就业机会。

  最大的安全问题是产生自我意识后是否能被控制

  作为网络安全问题的专家,周鸿祎也分享了他心中的ChatGPT的安全问题。

  在他看来,ChatGPT的安全性从技术问题变成社会伦理问题。ChatGPT掌握了很多编程和网络安全漏洞的知识,可以成为网络犯罪的有力工具。有许多黑客演示了利用ChaGPT写钓鱼邮件和攻击代码,所以从某种角度而言ChatGPT也成为了黑客的“帮手”。

  “国内的互联网公司普遍太讲究实用主义,都是把人工智能和自己的业务紧密结合,但没想到ChatGPT的更多可能性,360目前还在追踪和钻研这些技术,希望能迎头赶上。”周鸿祎表示,360正在探索“以其人之矛攻其人之盾”,用ChatGPT扮演“正义助手”的角色,建立对攻击自动监测、发现的知识库,用人工智能进行网络安全数据的自动化处理。

  “目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制。”周鸿祎表示,假如放开限制,让ChatGPT尽情在网页中学习,可能会导致它产生对物理世界更强的控制能力,未来在发展上会产生更多不安全性,也有可能被人诱导干出“糊涂事”,而是否能控制强人工智能,正是ChatGPT是否彻底融入人类生活的“边界点”。

  至于外界关注的ChatGPT是否可能造成普通人失业?在周鸿祎看来,短期内不会,“目前它的定位还是人类工具,这也是它的创造力所在。目前它的自我意识还没有出现,所以需要发挥自己的想象力和创造力。”

  他也对中国开发出属于自己的ChatGPT充满期待。在他看来,中国在人工智能领域与微软、谷歌的差距并没有想象中的大。在ChatGPT领域,中国具有很大优势,有希望在2-3年内达到世界领先水平,应该对ChatGPT技术探索给予充分支持。

  具体而言,周鸿祎表示,中国的互联网公司在数量与算力有一定的优势,同时也有较强的科研和高校储备力量,必须将科研机构、学校、科学家等学术圈人士,和产业、工程、产品结合起来,充分调动和统筹资源。

  工程师红利是中国的一大优势,但也面临不利条件,就是缺乏开源的传统。在ChatGPT研发中,用了许多开源模型,没有此前的开源就没有在巨人肩膀上的积累,每个公司都要从黑暗中摸索,这对国家整个产业发展速度是不利的,“这么牛的技术,也确实不应该被垄断在一两家公司手里。”

  周鸿祎认为,解决原创问题需要科研机构的努力,而科研机构也需要和产业公司的合作,OpenAI与微软的合作创造了一个产业公司和创业公司的合作范例,“我认为国家还是应该充分的支持ChatGPT产业发展,开源、合作、交流、打造生态。”

  他希望国内有更多企业参与AI生态的构建,并形成公开的市场竞争,这样才有进步。“ChatGPT让很多行业应用就插上人工智能的翅膀。”周鸿祎表示,“光是ChatGPT煽动不了一场产业革命,但是如果将来各行各业都被人工智能赋能,就会带来巨大的改变。”

  此前2月9日下午,周鸿祎在与搜狐张朝阳的对话中表示,虽然ChatGPT现在还不完美,但要看到它无限的潜力,未来会有非常多的场景,不仅仅是辅助搜索引擎搜索答案。“这就是为什么所有公司都争先恐后地都要搭上这班车,如果搭不上就有可能被淘汰。”

  “我觉得ChatGPT真的不是一个工具,它对人类自然语言的充分理解,可能代表着人类在人工智能历史上开始一场真正的革命。”谈及ChatGPT的诞生,周鸿祎表示,ChatGPT是通过一个上千亿参数的大语言模型,相当于把网络上很多人类的知识都进行了理解和训练,模拟了人脑对知识的储存,使得回答问题完全像一个成熟、油滑的人,而不是机械地给出搜索答案。

  相关报道

  如何打造中国版ChatGPT?周鸿祎透露关键信息

  周鸿祎:目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制

(文章来源:澎湃新闻)

编辑: 作者:feixiang 来源:
打印 】【关闭

 



    闂侇喗鍨块崳鍛婄珶閻楀牊顫栭柨娑欑煯娴滄帗绋夋繝浣风箚闁诡収鍨拹鐔煎礆閸℃ḿ鈧晫鏁崼娑掑亾娴e憡鍊ゅù锝嗙矋閺岀喖骞撻幇顏嗚繑闁挎稑鏈﹢鎵博濞嗗海鐟濋柟鏋劜濠€渚€鎮ч崼鐔哥秬闁挎稑鐬兼晶妤呭级閸愩劎绉洪柛妯煎枍缂嶆棃鎳撻崨顔碱暡闁哄牆顧€缁辨繃淇婇崒娑欑畳濞撴氨鏁告慨閬嶅箖閵娧勭暠闁绘鐗婂ḿ锟�,閻犲洤鍢插鐑藉籍閹绮撶紒顖滅帛閸ㄦ粍绂掗敓锟�,闁瑰瓨鍨冲⿰鎴犱焊閸℃瑧褰岄柛妤勬珪閺佺厧顫㈤敐蹇曠<濞寸姰鍎扮粭鍌炲棘閸モ晝褰块柛鎰噹椤旀劖绂掗崨顒€鏁╅悶娑栧妺缂嶆棃鎳撻崨顒勫殝濞存粓缂氶~鍥倷閻у摜绀夊☉鎾抽叄閵嗗﹦浜搁弽顒€鍋嶇紓浣哥箳缂嶅寮悩鎻掑綘闁靛棗鍊搁崣楣冨储閻斿嘲鐏¢柟顑倷绨伴柛娆忥攻閺嬪啯绋夐銏☆€戦弶鈺冨閺嬪啰鈧稒顨呴幏浼村礃閸涱収鍟囬柡鍫簽缁繝寮甸鍌滃讲閻犲洣绀侀悿鍕晬鐏炵瓔鍤犻柡鍫墯閺嬪啯绂掗妷銉ユ尋闁稿繑婀归懙鎴﹀礂閵娾晛鍔ラ柟瀛樼墳閳ь剙鎳橀崕鎾礆閸℃鏁堕悗鐟扮畭閳ь兛鐒﹂弸鍐偓娑欘殘濞堟垿鎯囬悢椋庢澖闁诡儸浣插亾娴e摜鏆氶柡浣哥摠閳ь儸浣插亾娴gǹ鎸ら柡鍐煐閳ь儸鍕嫳缂佹梹鐟ょ粭澶嬫媴濠婂啫姣夊ù鐘侯唺缂嶅秵绌卞┑濠勬闁瑰瓨鐗楁竟娆戞嫚閻氬绀夐悹鍥╂焿椤曚即鎳撻崨顒傜煂濞达絾绮屽顒勬嚀閸愯法绀夋鐐村劶椤曨剟鎳涢鍥舵斀闁哄秶枪閻ゅ嫰鎯勭粙鍨綘闁告劕鎳庨鎰板Υ閸屾稒鎷遍柡鍌氭矗缁楀鎷呭⿰鈧拹鐔煎箮閺囷紕銈柣銊ュ缁剁兘骞戦敓锟�,濞寸姴鎳嶇欢鐢稿矗閸屾績鍋撻崘璺ㄧ闁硅鍠楅婵嬪礂閵夈儳顏�,濡炲閰e▍鎾绘嚊椤忓懎顎撻柕鍡楀€歌ぐ鍌滄暜閸愨晜鎷遍柡鍌氭矗缁狅綁鎯勯鐐暠闁革负鍔嬬花顒佸閻樿櫕灏¢柡鍥ㄦ綑椤︽寧绌遍埄鍐х礀闁挎稑鑻懟鐔哥▔瀹ュ棗澹堥柛娑樼-濞煎啯銇勭捄铏规癁閻犳劑鍨荤划锛勭磾閹达絿顩甸柛姘湰閸ㄣ劑鎳撻崨顓熷剨閻庤纰嶅﹢浼村棘閸ヮ剙鍔ラ柛鎺戞娴滄帡宕f繝鍌氬伎闂侇喓鍔忛~鍥倷鐟欏嫬鐏楅柛鎰噹椤旀劙濡撮崒姘兼搐閻庝絻顫夊﹢浼村棘閸パ冩暥閻庣顫夊﹢渚€鎮块幋婊呯枀闁挎稑鐭侀顒勫矗婵犲啯顦у☉鎾冲閸ㄦ粍绂掗鍐х矒缂侇垱鐪归埀顒婃嫹

濡炪倧鎷� 閻忓骏鎷� 閻犳劧鎷� 缂備緤鎷� -- 濞戞搫鎷� 闁告鎷� 濡炪倧鎷� 閻忓骏鎷� 缂傚喛鎷� 缂備緤鎷� 濞e浄鎷� 闁诡叏鎷� 闁哄牞鎷� 闁告棑鎷� 濞戞搫鎷� 闊浄鎷�
www.58188.com