OpenAI预言:超级智能10年内降临! 新消息
OpenAI出手了!为了不让超级智能失控,首席科学家Ilya Sutskever和Jan Leike将共同领导团队在未来4年投入20%算力,解决超智能AI对齐问题。
(资料图)
超级AI智能会杀死所有人!
Sam Altman曾多次公开表态对AI未来的担忧,甚至自己都夜不能寐。
如今,OpenAI组建了一个团队,试图用20%算力,在未来4年解决「超级智能对齐问题」。
最新团队将由联合创始人兼首席科学家Ilya Sutskever和Jan Leike共同领导。
博客开篇,短短几行,遍阐述了OpenAI对超级智能降临时间的预判,以及具有「毁天灭地」能力的重度担忧。
超级智能将是人类发明的最具影响力的技术,可以帮助我们解决世界上许多最重要的问题。但超级智能的巨大力量也可能非常危险,并可能导致人类丧失权力,甚至导致人类灭绝。
虽然有超级智能现在看来还很遥远,我们相信这可能在十年内实现。
接下来4年,OpenAI要做的,就是防止超级智能杀死所有人类。
四年解决超级AI对齐问题
而Altman认为,想要管理这些风险,彻底解决对齐问题,就必须成立新的治理机构。
他表示,目前还没有一个像样的解决方案来引导或控制潜在的超级AI。
当前的技术,都依赖于人类的监督,比如根据人类反馈进行的强化学习(RLHF)等等。
但纯靠人力来监督比我们聪明得多的AI系统,总有一天会费劲又吃力。而目前的对齐技术又无法扩展到超级智能,所以对新技术突破的需要就提上了日程。
Altman在今天还发起了「英雄榜」。
OpenAI的目标,就是建立一个大致拥有人类水平的自动对齐研究员,然后用大量计算扩展研究工作,迭代调整超级智能。
为了创建第一个「自动对齐研究员」,本质上讲创建一个AI,OpenAI分三步走。
第一,开发一种可扩展的训练方法;
第二,验证生成的模型;
第三,对整个对齐管道进行压力测试。
研究人员利用AI系统来协助评估其它AI系统(可扩展的监督),同时研究人员还希望了解并控制他们的模型是如何将监督推广到人类研究员无法监督的任务上去的(有点绕嘴)。
之后,研究人员为了验证系统的一致性,自动搜索了有问题的行为,以及存在问题的内部结构。
最后可以通过找到一个未对齐的模型来测试整个流程,确认开发的框架可以检测到各种不同的未对齐类型(称为对抗性测试)。
OpenAI的研究人员预计,随着对这个问题的研究越来越深入,研究重点也会发生变化,甚至还可能会有新的研究领域出现。
全新团队
为此,OpenAI正式宣布,组建一个由顶级机器学习研究人员和工程师组成的团队——「Superalignment」。
在接下来的四年里,OpenAI将投入到目前为止获得的计算资源中的20%,用于解决超级AI的对齐问题。
在这个过程中,预计将会有很多团队参与进来,从开发新方法到将其扩展至实际应用。
OpenAI表示,自己的目标是在四年内解决超级智能对齐的核心技术挑战。
虽然听起来很大,实现起来也不一定100%成功,但OpenAI还是认为只要集多方努力,还是可以解决的。
Ilya Sutskever作为OpenAI的联合创始人兼首席科学家,已经把这个目标当作其核心研究重点,并将与Jan Leike——对齐项目负责人,共同领导该团队。
团队成员包括此前负责对齐工作的研究人员和工程师,甚至还有其他团队的研究人员,可谓阵容庞大。
LeCun所言「狗级」AI,真会十年翻身?
可以说,OpenAI对超级智能AI系统的将在十年内诞生,是一个非常大胆的预测。
首先,就拿ChatGPT来说,没有人承认它是一个能够进行人类思维的人工智能。
与之相反,ChatGPT作为一个类似于自动完成的大型语言模型,可以重新创建类似人类的反应,但没有完全理解单词背后的含义。
因此,有时候它会编造明显错误,或无法理解基本逻辑的答案。
前段时间,吴恩达在新开的课程中指出,ChatGPT不会反转单词直接登上Reddit热榜。
比如,让它反转lollipop这个词,输出的是pilollol,简直是完全混乱的。
究其原因,主要还是大模型采用token来处理文本,这样好处是能降低内存和时间复杂度。
但是,将单词token化,明显存在一个致命的问题,那就是模型很难学习到有意义的输入,也就能理解为什么ChatGPT不能理解单词含义的原因了。
当让它处理单词反转任务时,模型可能就是把每个token反转过来,由此才出丑。
抛开ChatGPT,再广泛地来讲,一直以来图灵奖的主Yann LeCun都把当前人工智能称作,连猫狗都不如的AI。
一句话总结,「论聪明程度,ChatGPT可能连条狗都不如。」
LeCun表示,当前的AI系统,哪怕是ChatGPT,根本就不具备人类的智能水平。
在他看来,不必太过紧张,如今的AI智能水平远远没到我们该担忧的地步。
目前的生成式AI模型都是在LLM上训练的,而这种只接受语言训练的模型聪明不到哪去。这些模型的性能非常有限,它们对现实世界没有任何理解。
由此,在一些人看来,OpenAI预测超级智能AI即将到来似乎很奇怪。
尽管如此,他们还是希望做好准备,能够以先发制人的优势,将AI灭绝人类的想法扼杀在摇篮中。
网友答疑
Stability AI的CEO表示,使AGI与ASI保持一致是我们的计划。
我的观点(提出你的意见):我们不可能在没有拿走自由的情况下绝对地对齐一个超级智能体。对齐和自由是正交的。我们不要建造那些可能会对人类造成 I)生存威胁和 II)剥夺人类权力的人工智能。
根据OpenAI博客介绍,未来要投入20%算力去做这件事,却受到网友的质疑。
现在是时候有人考虑超级智能的安全问题了。但让我们现实一点,20%的计算量真的能解决问题吗?对于这样一个巨大的问题,似乎只是杯水车薪。
OpenAI的对齐团队领导人Jan Leike解释道,
20%的计算量不是一个小数目,我对OpenAI愿意以这种规模分配资源感到非常印象深刻。
这是有史以来对对齐的最大投资,它可能比人类到目前为止在对齐研究上的总花费还要多。
OpenAI将用4年的时间去完成这项任务,如何判断是否失败了,或者进展不够快?
我们会关注即将到来的实证数据:
1. 我们可以在本地衡量研究路线图的各部分进展(例如,可扩展的监督)
2. 我们可以看到GPT-5的对齐效果如何
3. 我们将密切关注技术的发展速度
其实大多数人还是很想知道,OpenAI是不是在真正解决对齐研究之前,不会再研发超级AI了。
其实,Jan Leike的话中,早已透露出了GPT-5正在研发中。
许多人还是比较支持OpenAI这么做的。
网友表示,希望机器的可解释性是战略的一部分,ASI不应该是一个黑盒子。如果我们有一天在不了解它是如何工作的情况下建立一个ASI,我们将有很大的麻烦。
标签:
- OpenAI预言:超级智能10年内降临! 新消息
- 再进一步!交通银行位列《银行家》“全球银行1000强”第9位 当前视讯
- 焦点日报:湛江回应海南电驴过海一日游走红 :两地港口已调整过海航班 准备引入共享电动车
- 日日煮巨亏上市,下厨房关店,美食内容社区难逃魔咒
- 当前热讯:40℃+!明起3天郑州暑气升腾
- @算力需求企业、科研机构、高校 成都算力券开始申领了 天天要闻
- 甲醛传感器用于化妆品防腐剂中的游离甲醛浓度检测|环球观速讯
- 韩媒:“无人祭奠,无地可葬”,日本惊现气球葬礼
- 快消息!专注于精密电子零部件新股致尚科技,将于2023年7月7日在深交所上市
- 简讯:智能降温杯与普通保温杯选哪个比较好?微幼科技
- 报道:股价跌停!绝味食品(603517.SH)称:目前经营正常,密切关注股价异动
- 环球通讯!《惊奇队长2》宣传照曝光 “三大惊奇”同框登场
- 厄尔尼诺再现 农产品价格波动 各方期盼推出天气指数期货
- 9款镇馆之宝 30余款新品首发!世界人工智能大会亮点抢先看
- 美联储威廉姆斯:110%支持美联储最近的利率决定-环球滚动
- 法国驻华大使:应尽快推动欧盟与亚太合作
- 双环科技:湖北国资委成实控人 ,定增募资项目将择期启动
- 何炅王嘉尔曾预言白敬亭宋轶
- 指甲往肉里长怎么办脚趾头_指甲往肉里长怎么办_全球观焦点
- 【环球时快讯】苹果mfi认证充电头品牌(苹果mfi认证的充电器牌子有哪些)
- 长城汽车:6月新能源车销售2.67万台
- 龙洲股份:旗下畅丰专汽研发的无人机智能巡检车,搭载了移动式无人机智能巡检成套装备,而非无人驾驶车辆 焦点速讯
- 上半年深圳一手住宅网签约1.6万套,二手房价继续“挤水分”|新动态
- 微信朋友圈广告代理怎么申请?申请条件和注意事项-焦点关注
- 小米路由器4c刷openwrt-全球今头条
- 中国女足世界杯23人大名单公布,王霜领衔-每日热议
- 事关孩子上学!福州市教育局重要提醒!
- 交口交警为“一老一小”撑起交通“安全伞”
- 美心翼申申报材料获北交所受理:精密机械零部件生产商客户包括艾默生集团等_播资讯
- 费德勒重返温网观赛,女单卫冕冠军莱巴金娜直言很紧张 全球独家
- 全球百事通!河北张家口:社区里的“幸福驿站”
- 每日简讯:凌晨紧急营救,济南“嘶吼哥”,赞!
- 深圳中山联手开展产业链招商 世界热门
- A股避雷针:机器人牛股昊志机电受关注函,咸亨国际、航新科技等披露减持信息 观天下
- 融入智慧农业 新能源皮卡成新农人“左膀右臂”|世界观察
- 世界快讯:河南理工大学赛课教务处_河南理工赛课系统
- 今日《宫》杨幂电视剧百度百科(为何宫2的主演不是杨幂)
- 人形机器:字节跳动拟布局机器人 看好人形机器人核心零部件供应商|今日要闻
- 金鹰重工(301048):7月4日北向资金增持51.39万股 世界热消息
- 一直英语怎么写_一直英语|信息
- 环球观速讯丨尽管通胀肆虐,但阿根廷股市成为世界领袖
- 男人60岁后,兄弟姐妹相处最好的出路,其实是这样子的
- 西游记艺术字简笔画(西游记艺术字)-环球快播
- 公告精选:汽车板块公司飞龙股份、万里扬等上半年净利大增|全球短讯
- 澳门科技大学研究生含金量-今日看点
- 湛江发改局召开传达全省推进基础设施REITs高质量发展工作动员会 世界报资讯
- 证监会同意广钢气体、泰凌微科创板IPO注册-世界观速讯
- 世界简讯:如何评价腾势N7:智能车身控制成杀手锏,国产车豪华体验已达成
- 螨虫叮咬后的症状怎么办_螨虫叮咬后的症状 当前视讯
- 速看:狮子座抄袭哪一首歌_狮子座是抄袭的吗
-
中国出口管制!美国企业“不淡定”了
根据美国半导体晶圆制造商AXT公司(AXTInc)在官网发布的最新声明,其中
-
让我们结婚吧_歌词|每日消息
《让我们结婚吧》歌手:Hot作词、作曲:不详未经芝士话回答允进许不得
-
上海物贸:公司会根据《上海证券交易所股票上市规则》做好信息披露工作,_天天快资讯
上海物贸60082207月04日在投资者关系平台上答复了投资者关心的问题投资
-
【世界说】美媒:越来越多美国未成年人因枪支暴力受害 父母们为孩子的安全操碎心 全球短讯
中国日报网7月4日电当地时间7月2日,美国马里兰州巴尔的摩发生大规模枪
-
焦点热讯:psp主题怎么安装_psp上主题下载下来放哪里
需要70及以上系统支持,下载后将ptf文件放到 THEME文件夹下再在设定-主
-
每日快播:吴江浩:核污染水与各国核电站排放的冷却水是不同的
据中国驻日本大使馆,2023年7月4日,驻日本大使吴江浩就日本福岛核污染
-
今日南昌到长春飞机几点有,票价多少_长春到南昌的飞机几点有票价多少 全球微动态
1、长春没有到南昌直达的飞机,建议乘坐春秋航空的飞机在上海中转,比
-
今日热搜:《长风渡》悠州被谁相救?
悠州被周烨带兵支援相救;梁兵次日再次发起全面进攻,顾九思、沈明和叶世
-
集中打击!公安部捣毁电信网络诈骗犯罪窝点3300余个
按照全国打击治理电信网络新型违法犯罪工作电视电话会议和全国公安机关
-
半导体板块走高 聚辰股份大涨超10% 长光华芯等拉升
半导体板块4日盘中震荡走高,截至发稿,聚辰股份涨逾11%,长光华芯证超
-
天天资讯:八角笼中郑州路演 王宝强鼓励大家不做生活的困兽
7月3日,《八角笼中》导演、领衔主演王宝强,领衔主演史彭元,主演张祎
-
中国贸促会副会长于健龙会见加中贸易理事会执行董事兼首席运营官高诗如
7月3日,中国贸促会副会长于健龙在京会见加中贸易理事会执行董事兼首席
-
宁夏建材:7月3日融券卖出24.06万股,融资融券余额4.69亿元_环球观焦点
7月3日,宁夏建材(600449)融资买入3164 46万元,融资偿还4054 35万元
-
湖南30个迎峰度夏保电项目全部投运
湖南2023年30个迎峰度夏保电重点项目已全部建成投运,共计新增线路长度
-
益生股份:连续3日融资净偿还累计1272.25万元(07-03)
益生股份融资融券信息显示,2023年7月3日融资净偿还万元;融资余额亿元
-
天天新资讯:小米MIUI 15开发版现身服务器、在系统动画、实用功能方面改进
7月4日消息,据外媒报道,小米系统MIUI15正在RedmiNote13系列的机型上
-
通渭新景:抓实“书记党建项目” 赋能追赶发展
对确定的“书记党建项目”,实行党委领导、分级负责,村党组织书记主抓
-
重庆市水协组团参加长江经济带九省两市城镇供排水合作发展论坛 焦点简讯
6月26日至27日,重庆市水协副会长、重庆水务集团党委委员、副总经理庞
-
奥特之王和奥特之父合体_奥特之王和奥特之父|天天速看
1、奥特之王地位更高。2、奥特之王是奥特一族的王者,宇宙的守护者;和
-
皮车是什么车_拉皮车是什么意思|环球最新
目前应该是有很多小伙伴对于拉皮车是什么意思方面的信息比较感兴趣,现
-
关注:2023年7月3日广东省离子膜片碱价格最新行情预测
中国报告大厅2023年7月3日广东省离子膜片碱价格最新走势监测显示:广州
-
95分钟进球能赢❓19年鲁能95分钟进球被吹 胡尔克100分钟点射绝杀 世界关注
95分钟进球能赢❓19年鲁能95分钟进球被吹胡尔克100分钟点射绝杀,上港,
-
法兴银行指出,在5月和6月两次加息25个基点之后,我们预计澳洲联储将在7月4日的政策会议上维持其4.10%的现金利率不变,因为在我们看来,在5月通胀大幅下降之后,政策制定者很难连续三个月实施加息_快播报
法兴银行指出,在5月和6月两次加息25个基点之后,我们预计澳洲联储将在
-
美银调查:英国一年期通胀预期降至2021年8月以来最低_每日讯息
尽管如此,不确定5年后通胀水平的消费者比例大幅上升,仍接近历史最高
-
伊藤美诚郁闷!刚创94年纪录后遇1坏消息,刘国梁麾下谁偷着乐?-天天观热点
奥运会被推迟至明年,这对当下很多手感上佳的选手来说相对不利,国乒方
-
《逆水寒手游》良马识途奇遇任务方法-焦点热议
很多玩家都不知道《逆水寒手游》良马识途奇遇任务方法怎么做,下面就带
-
亚洲果业(00073)委任谢智康为公司秘书及授权代表
亚洲果业(00073)公布,谢智康已获委任为公司秘书及授权代表,自2023年7月3
-
今日幼儿托管加盟中心需要多少钱(幼儿托管中心加盟的条件和流程是什么) 每日速讯
大家好,小胜来为大家解答以上问题。幼儿托管加盟中心需要多少钱,幼儿
-
世界即时:单广袖任中国建筑集团董事、党组副书记
每经AI快讯,中国建筑集团7月3日宣布,2023年7月3日,中国建筑集团有限
-
环球要闻:水貂笼_水貂笼
水貂笼,材质是由镀锌丝、不锈钢丝,经焊接成丝网。加工成笼子。本文到
-
热消息:国家卫健委:计划将国家医疗应急队伍增加至60-70支
中新网7月3日电国家卫健委3日下午举行新闻发布会。会上,国家卫生健康
-
洛克王国水晶矿洞(洛克王国水晶矿场在哪)_世界今热点
导读1、在矿场,进入后你要改装电路,然后再进门就是在金矿场水晶矿场
-
如何充q币_充q币的方法 今亮点
1、去网吧充q币,那里会有人专门研究充q币的方法。2、充值:网页打开腾
-
重庆启动防汛Ⅳ级应急响应 每日视讯
中新网重庆7月3日电(记者刘相琳)记者3日从重庆市应急局获悉,连日来,
-
环球聚焦:业界人士分析马斯克推特限流新规,称此举将削弱新任CEO影响力
IT之家7月3日消息,据路透社报道,多位营销行业专家表示,马斯克暂时限
-
你好,我在借贷APP借了3000元,还款是发现还款功能已关闭 当前看点
你好,我在借贷APP借了3000元,还款是发现还款功能已关闭
-
【世界热闻】周琦的身价虚高揭晓!潜力或成泡影,球迷看出端倪!
周琦的身价虚高揭晓!潜力或成泡影,球迷看出端倪!篮球界对于周琦身价
-
环球观焦点:新相微(688593.SH):整个穿戴市场的渗透率在不断增长
格隆汇7月3日丨有投资者向新相微(688593 SH)提问:公司创新架构的AMOLE
-
旅游行业怎么样?创业能不能选择旅游行业?
随着生活水平的提高,人们对精神层面的需求越来越重视,旅游成为了一种
-
每日热闻!7月3日航空机场板块涨幅达4%
7月3日13点22分,航空机场板块指数报4837 571点,涨幅达4%,成交46 47
-
全球速看:赫兹是如何提出天线模型的_赫兹是如何计算
赫兹不可以计算,它是一个物理单位,用来描述每秒中的周期性变动重复次
-
众发装饰公司_众发 滚动
1、杭州临安众发汽车销售服务有限公司不属于其他集团,由个人控股。2、
-
中央气象台:京津冀5日起高温再“上线”+多地迎强降雨
中央气象台:京津冀5日起高温再“上线”+多地迎强降雨
-
天津:200多名“小发明家”共赴全球发明大会
央广网天津7月3日消息(见习记者曲彤)近日,全球发明大会中国区天津赛
-
iqoo11sim卡槽位置详情
iqoo的sim卡槽就在手机的底部,我们可以从手机里取出卡针,然后往旁边
-
天天报道:聚焦产业链延伸、二手车交易 全链条促进汽车消费
目前,黑龙江省汽车租赁行业实现质量跃升,头部企业和省内企业双轮驱动
-
指南详细介绍了如何治疗内脏动脉瘤
(HealthDay)——血管外科学会发布并发表在《血管外科杂志》七月号增刊
-
智商怎么测(怎么测智商是多少)
大家好,最近小红发现有诸多的小伙伴们对于智商怎么测,怎么测智商是多
-
世界通讯!肖战《玉骨遥》上线热度登顶,杨颖《尘缘》撞档沦为炮灰,网友评价一针见血
经历了《宁安如梦》定档又撤档之后,现在的剧都怕出太多幺蛾子了,所以
-
7月投资策略
2023年上半年已结束,沪指收涨3 65%,创业板、上证50均跌超5%。上半年
X 关闭
X 关闭