IT之🐂(zhi)家🥐(jia) 6 月💞(yue) 5 日❔(ri)消🥃(xiao)息🔚(xi)，像🌏(xiang) OpenAI 的📚(de) ChatGPT、谷😮(gu)歌😇(ge)的👴(de) Gemini Ultra 这👶(zhe)样🥥(yang)的👜(de)高📸(gao)级👏(ji) AI 模🌆(mo)型🧙(xing)，训🎊(xun)练🗯(lian)它🗳(ta)们🛢(men)通😪(tong)常💞(chang)需🚘(xu)要🦐(yao)数🌮(shu)百💩(bai)万🍌(wan)美🔂(mei)元🤘(yuan)的😡(de)费🚑(fei)用🥖(yong)，且🧀(qie)该💁(gai)成🖖(cheng)本👴(ben)还😇(hai)在🐡(zai)迅🏏(xun)速🏋(su)上🧓(shang)升🤝(sheng)
随☝(sui)着🏝(zhe)计🐖(ji)算📭(suan)需🖱(xu)求🧔(qiu)的🐐(de)增🕢(zeng)加🤟(jia)，训🗝(xun)练🏵(lian)它🚗(ta)们🎥(men)所🗺(suo)需🏿(xu)的🌸(de)计👊(ji)算⏳(suan)能🎨(neng)力🔞(li)的🎳(de)费🥐(fei)用⬆(yong)也🍺(ye)在🔟(zai)飙🧦(biao)升📃(sheng)
为📏(wei)此😫(ci)，AI 公🕥(gong)司🍱(si)正🦋(zheng)在🦗(zai)重⏬(zhong)新♿(xin)考🍷(kao)虑🧕(lv)如🙊(ru)何🌟(he)训🤩(xun)练🤡(lian)这😀(zhe)些🎹(xie)生🆔(sheng)成🎍(cheng)式🕚(shi) AI 系🏌(xi)统🏼(tong)。在🚹(zai)许📿(xu)多🏄(duo)情🥓(qing)况🙇(kuang)下💜(xia)，这🐜(zhe)些🔌(xie)策😿(ce)略🕧(lve)包⛷(bao)括📯(kuo)在🍦(zai)当🔋(dang)前🤑(qian)的👓(de)增🤸(zeng)长🍷(chang)轨😅(gui)迹💃(ji)下👛(xia)降🔚(jiang)低🏙(di)计🍛(ji)算🐰(suan)成🏓(cheng)本⬆(ben)。 训🚖(xun)练🗿(lian)成⚪(cheng)本🍻(ben)是❤(shi)如📓(ru)何🎓(he)确⤵(que)定🗜(ding)的💱(de)？ 斯🍅(si)坦🅿(tan)福🏊(fu)大🗂(da)学😋(xue)与🐅(yu)研🏚(yan)究🕹(jiu)公🛫(gong)司🌡(si) Epoch AI 合🔐(he)作💲(zuo)，根🏬(gen)据🥌(ju)云📘(yun)计🐿(ji)算😕(suan)租☕(zu)金⏹(jin)估➡(gu)算🐧(suan)了🌚(le) AI 模🦍(mo)型👿(xing)的🆘(de)训👪(xun)练🐭(lian)成✳(cheng)本📿(ben)。双🏳(shuang)方🤥(fang)所🛤(suo)分🔴(fen)析🎂(xi)的🍸(de)关🛷(guan)键🍚(jian)因🥥(yin)素😨(su)包🌩(bao)括🐥(kuo)模😮(mo)型🙈(xing)的👌(de)训🌥(xun)练💔(lian)时😺(shi)长🤛(chang)、硬🚱(ying)件💸(jian)的✋(de)利🔉(li)用🔅(yong)率🐐(lv)和⚪(he)训🍟(xun)练🤫(lian)硬🚊(ying)件🌬(jian)的🐋(de)价⛵(jia)值😟(zhi)。 尽♎(jin)管🕔(guan)许💰(xu)多🛴(duo)人⬛(ren)猜🍧(cai)测😏(ce)，训🎒(xun)练🥧(lian) AI 模🐂(mo)型🦓(xing)的🔊(de)成🐧(cheng)本🏼(ben)变😴(bian)得🔡(de)越🌘(yue)来🥃(lai)越🥅(yue)高🥍(gao)，但🐈(dan)缺⛵(que)乏🥁(fa)全🏑(quan)面✅(mian)的👽(de)数🚍(shu)据🚶(ju)来🔛(lai)支❕(zhi)持🌳(chi)这🌥(zhe)些👚(xie)说🚈(shuo)法🦇(fa)。而🦎(er)斯🛶(si)坦⏺(tan)福⏯(fu)大🍦(da)学🔥(xue)发🤵(fa)布🔵(bu)的🚀(de)《2024 年📩(nian) AI 指🎹(zhi)数👞(shu)报🍇(bao)告🗨(gao)》正🥘(zheng)是♟(shi)支🤲(zhi)持🗡(chi)这🐶(zhe)些🍡(xie)说🕳(shuo)法🚢(fa)的💷(de)罕🌧(han)见⚾(jian)来📗(lai)源🐕(yuan)之🐔(zhi)一🥗(yi)。 不😨(bu)断📻(duan)膨🌕(peng)胀💼(zhang)的🤨(de)训🍯(xun)练🤾(lian)成💛(cheng)本😓(ben) 下🚪(xia)表🔂(biao)展🚉(zhan)示🍟(shi)了👓(le)自🛠(zi) 2017 年🅾(nian)以🔌(yi)来🎤(lai)，经🦎(jing)通🚲(tong)胀😥(zhang)调👥(tiao)整📔(zheng)后🔖(hou)的🕺(de)主👌(zhu)要🔹(yao) AI 模🏝(mo)型👍(xing)的🍪(de)培🏧(pei)训🦂(xun)成😈(cheng)本➕(ben)： 去🎊(qu)年🚚(nian)，OpenAI 的🥅(de) GPT-4 培🎁(pei)训🕣(xun)成🤔(cheng)本♉(ben)估📆(gu)计🐻(ji)为🐠(wei) 7840 万🕵(wan)美🕥(mei)元🍻(yuan)，远🧥(yuan)高📫(gao)于🥒(yu)谷🌐(gu)歌📫(ge) PaLM （540B） 的🎄(de)训🎖(xun)练⬛(lian)成🔬(cheng)本🌬(ben)。谷🌫(gu)歌🌮(ge) PaLM 较🌌(jiao) GPT-4 仅🐫(jin)早🏓(zao)一🥇(yi)年👡(nian)推🏣(tui)出⛑(chu)，但📥(dan)训🗡(xun)练🗡(lian)成🈵(cheng)本🈴(ben)为🦆(wei) 1240 万💦(wan)美🕯(mei)元💫(yuan)。 相🏈(xiang)比👈(bi)之🍧(zhi)下🐷(xia)，2017 年👊(nian)开🎆(kai)发🐘(fa)的🚼(de)早🍨(zao)期🏸(qi) AI 模🐉(mo)型👻(xing) Transformer 的🎦(de)训⛵(xun)练🖊(lian)成🚜(cheng)本🚽(ben)为🏈(wei) 930 美🕢(mei)元🖇(yuan)gai 😺(gai)mo 👟(mo)xing 🆔(xing)zai 🌊(zai)su 💖(su)zao 🏾(zao)dang 🚪(dang)qian 🦂(qian)suo 🏷(suo)shi ⬜(shi)yong 🆓(yong)de ⏰(de)xu 🎞(xu)duo 📓(duo)da 🈲(da)xing ⛎(xing)yu 🤫(yu)yan 🥁(yan)mo 🔘(mo)xing 👧(xing)de 🌒(de)ti 🌪(ti)xi 💜(xi)jie 🥄(jie)gou 👾(gou)fang 🌷(fang)mian 🙎(mian)qi 🤤(qi)zhe ⏱(zhe)ji 🚔(ji)chu 😷(chu)xing 🛤(xing)zuo 🌐(zuo)yong 🕍(yong)。 gu 🌃(gu)ge 🛒(ge)de 🥋(de) AI mo 🍱(mo)xing 😞(xing) Gemini Ultra de 😔(de)xun 🍥(xun)lian 🙆(lian)cheng 😗(cheng)geng 🐂(geng)gao 🙁(gao)，da 🍘(da)dao 🍺(dao)le 🏙(le)jing 👌(jing)ren 👪(ren)de 📓(de) 1.91 yi 🍓(yi)mei ⛅(mei)yuan 🏿(yuan)。jie 🎮(jie)zhi 🧘(zhi) 2024 nian 🌳(nian)chu ✉(chu)，gai 💥(gai)mo 🥔(mo)xing 🆓(xing)zai 👛(zai)ji 👚(ji)ge 🚩(ge)zhi 🕍(zhi)biao 🦂(biao)shang 🏈(shang)dou 💔(dou)chao 💫(chao)guo 🔄(guo)le 🎎(le) GPT-4，zui 🌾(zui)yin 🍴(yin)ren 🧚(ren)zhu 🍁(zhu)mu 🔶(mu)de 🚜(de)shi 🏎(shi)zai 🍌(zai)“da 🍽(da)gui 👎(gui)mo 🕖(mo)duo 🧤(duo)ren 🐠(ren)wu 🥎(wu)yu 📻(yu)yan 🐨(yan)li 🐮(li)jie 🐩(jie)”（MMLU）ji ⛎(ji)zhun 🚈(zhun)ce 🕟(ce)shi ⛏(shi)zhong 📪(zhong)sheng 🍼(sheng)chu 🎞(chu)。zhe 🕣(zhe)yi 📱(yi)ji 🥌(ji)zhun 🐯(zhun)shi 🧜(shi)heng 🏎(heng)liang 📸(liang)da 🐕(da)xing 🐾(xing)yu ✔(yu)yan 👟(yan)mo 👔(mo)xing 🌥(xing)neng 🎦(neng)li 💴(li)de 😐(de)zhong 🙎(zhong)yao 🚰(yao)biao 🍁(biao)chi 👶(chi)。li 🍁(li)ru 🏭(ru)，ta 🚯(ta)yi ♑(yi)ping 🏨(ping)gu 🐋(gu) 57 ge 🛺(ge)xue 🙂(xue)ke 🚴(ke)ling 🤗(ling)yu 🙅(yu)de 🥤(de)zhi 🥟(zhi)shi 🐱(shi)he 😝(he)jie 🌪(jie)jue 📕(jue)wen 🍬(wen)ti 😂(ti)de 👒(de)shu 👩(shu)lian 💭(lian)cheng 🔅(cheng)du 🖖(du)er 🌈(er)wen 😛(wen)ming 😕(ming)。 xun 📷(xun)lian ⏳(lian)wei 👆(wei)lai 👐(lai)de 😆(de) AI mo 🚢(mo)xing 🥚(xing) jian 🕳(jian)yu 🌨(yu)zhe 🥋(zhe)xie 🎍(xie)tiao 🎇(tiao)zhan 🤭(zhan)，AI gong 👲(gong)si 🍺(si)zheng 🛁(zheng)zai 🌆(zai)xun 🛎(xun)zhao 🏈(zhao)xin 🌑(xin)de 🤵(de)jie 😰(jie)jue 🔆(jue)fang 📘(fang)an 💰(an)lai ♌(lai)xun 🏁(xun)lian 🚽(lian)yu 👣(yu)yan 🚇(yan)mo 😸(mo)xing 🥊(xing)，yi ⏲(yi)ying 💱(ying)dui 🎛(dui)bu 🙀(bu)duan 📛(duan)shang 🔼(shang)zhang 🔕(zhang)de 🍽(de)cheng ✔(cheng)ben 🏹(ben)。 qi 🍮(qi)zhong 🌸(zhong)de ⛹(de)fang 🧦(fang)fa 🌭(fa)you 🦊(you)duo ♉(duo)zhong 🚐(zhong)，bi ⭕(bi)ru 🏁(ru)chuang 🤑(chuang)jian 🕥(jian)yong 📍(yong)yu 😵(yu)zhi 👰(zhi)xing 🚎(xing)te 🏦(te)ding 🕉(ding)ren 😓(ren)wu 🛁(wu)de 🦔(de)jiao 🖼(jiao)xiao ⌚(xiao)mo 🕑(mo)xing 🗡(xing)，er 🈁(er)qi 🚷(qi)ta 🧙(ta)yi 🖍(yi)xie 👫(xie)gong 🎧(gong)si 🚯(si)zheng 🦕(zheng)zai 🍥(zai)shi 🎶(shi)yan 🔪(yan)chuang 🔪(chuang)jian 🗓(jian)zi 🥀(zi)jia 🥡(jia)de 🛣(de)he 🚜(he)cheng 🎹(cheng)shu 🤙(shu)ju 🗿(ju)lai 💈(lai)“tou ⏬(tou)wei 🚣(wei)”AI xi 🏝(xi)tong 🛏(tong)。dan 🎽(dan)dao 🎄(dao)mu 😓(mu)qian 🎵(qian)wei 🍺(wei)zhi 🔙(zhi)，zhe 🔦(zhe)fang 🔊(fang)mian ⤵(mian)hai 💣(hai)mei 🌶(mei)you 🚊(you)qu 👒(qu)de 👑(de)ming 💞(ming)que 🔭(que)de 😹(de)tu 🙃(tu)po 🎍(po)。 li 🌱(li)ru 🌲(ru)，shi 📹(shi)yong 🚣(yong)he 🕎(he)cheng 👕(cheng)shu 🏭(shu)ju 🌾(ju)de 🔎(de) AI mo 🎶(mo)xing 😂(xing)you 🐃(you)shi 🌝(shi)hui 🤺(hui)“hu 🔔(hu)yan 🔇(yan)luan 😓(luan)yu 🔸(yu)”，yin 🖐(yin)fa 🔴(fa)suo 🦇(suo)wei ♒(wei)de 🐒(de)“mo 🐃(mo)xing 😎(xing)beng 🍷(beng)kui ☔(kui)”。 guang 🗝(guang)gao 🚐(gao)sheng 💗(sheng)ming 😛(ming)：wen 🛠(wen)nei 📳(nei)han 🔒(han)you 👌(you)de 🤮(de)dui 🕯(dui)wai 🕕(wai)tiao 🥋(tiao)zhuan 🚚(zhuan)lian 👇(lian)jie 👩(jie)（bao 🌩(bao)kuo 💱(kuo)bu 🖕(bu)xian 🍳(xian)yu 🛷(yu)chao 🖐(chao)lian 🧚(lian)jie 💘(jie)、er 🛅(er)wei 🎡(wei)ma 🕜(ma)、kou 🔏(kou)ling 😳(ling)deng 🕥(deng)xing 🌭(xing)shi 😗(shi)），yong 😺(yong)yu 📀(yu)chuan 🏡(chuan)di 🐳(di)geng 👆(geng)duo 😇(duo)xin 🌩(xin)xi 🉑(xi)，jie 🐽(jie)sheng 🍆(sheng)zhen ✨(zhen)xuan 💀(xuan)shi 👐(shi)jian 🚥(jian)，jie 🔸(jie)guo 🐍(guo)jin 👻(jin)gong 🔎(gong)can 🚜(can)kao ❗(kao)，ITzhi 🌈(zhi)jia 😢(jia)suo 👅(suo)you 😥(you)wen 🔧(wen)zhang 📪(zhang)jun 😁(jun)bao 🌘(bao)han 🐈(han)ben 🛍(ben)sheng 🎬(sheng)ming 🚊(ming)。