用“草莓”對(duì)抗幻覺(jué)？OpenAI新項(xiàng)目隱含人工智能升級(jí)關(guān)鍵線索

快訊 2024年07月13日 14:57 41 admin

財(cái)聯(lián)社7月13日訊（編輯馬蘭）OpenAI似乎正在研究一個(gè)新的人工智能模型 *** ，以提供高級(jí)的推理能力。

據(jù)一份內(nèi)部文件稱，OpenAI內(nèi)部團(tuán)隊(duì)正在進(jìn)行一個(gè)名為“草莓（Strawberry）”的項(xiàng)目，目的是使人工智能不僅能夠生成答案，還能提前規(guī)劃，自主可靠地瀏覽互聯(lián)網(wǎng)，執(zhí)行OpenAI所謂的“深度研究”。

據(jù)OpenAI公司發(fā)言人稱，公司希望其人工智能模型能夠像人類一樣看待和理解世界，持續(xù)研究新的人工智能是業(yè)內(nèi)常見(jiàn)的做法，業(yè)內(nèi)相信這些系統(tǒng)的推理能力會(huì)隨著時(shí)間的推移而提高。但他并未回應(yīng)草莓的相關(guān)問(wèn)題。

知情人士則稱，OpenAI希望新技術(shù)可以顯著提高其人工智能模型的推理能力。草莓涉及一種在非常大的數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練后，處理人工智能模型的專門技術(shù)。

而研究人員指出，推理能力是人工智能實(shí)現(xiàn)人類或超人類水平智能的關(guān)鍵。

創(chuàng)新方向

周二，有報(bào)道稱OpenAI在一次內(nèi)部集體會(huì)議上展示了一個(gè)研究項(xiàng)目的結(jié)果，其聲稱擁有類似于人類的推理技能。OpenAI發(fā)言人隨后證實(shí)了這次發(fā)表，但拒絕透露具體內(nèi)容。

而今年早些時(shí)候，兩名消息人士稱自己觀看了OpenAI一個(gè)名為Q*項(xiàng)目的演示，該演示中的模型能夠回答當(dāng)今商用模型無(wú)法解決的棘手科學(xué)及數(shù)學(xué)問(wèn)題。Q*即為草莓的前身。

更進(jìn)一步討論草莓的研究方向，其想要解決的問(wèn)題或與人工智能無(wú)法規(guī)避的幻覺(jué)問(wèn)題相關(guān)。目前的人工模型在面對(duì)常識(shí)性問(wèn)題時(shí)常常無(wú)法識(shí)別正確的邏輯，從而導(dǎo)向幻覺(jué)，并生產(chǎn)出虛假的內(nèi)容。

一名知情人士稱，草莓與斯坦福大學(xué)2022年開(kāi)發(fā)的一種名為“自學(xué)推理機(jī)”或“STaR”的 *** 有相似之處。STaR創(chuàng)建者之一、斯坦福教授Noah Goodman曾表示，STaR理論上可以讓大語(yǔ)言模型的智能超越人類水平，這令人興奮又恐懼。

因此，推理能力被視為升級(jí)當(dāng)下人工智能模型的關(guān)鍵進(jìn)步，OpenAI首席執(zhí)行官奧爾特曼也曾強(qiáng)調(diào)，在人工智能領(lǐng)域最重要的進(jìn)步就是推理能力。

另一名消息人士則指出，OpenAI特別希望人工智能模型可以在計(jì)算機(jī)使用 *** 的幫助下，自主瀏覽網(wǎng)頁(yè)，并根據(jù)其發(fā)現(xiàn)采取行動(dòng)。OpenAI還計(jì)劃測(cè)試其在軟件和機(jī)器學(xué)習(xí)工程方面的能力。

標(biāo)簽：人工智能新項(xiàng)目隱含