IBM推出了合成數(shù)據(jù)生成技術(shù)，成數(shù)成方旨在改變?nèi)蛄奶鞕C(jī)器人的據(jù)生能力。這種名為大規(guī)模對齊聊天機(jī)器人(Large-scale Alignment for Chatbots，法用LAB)的任務(wù)方法有望解決現(xiàn)代聊天機(jī)器人面臨的長期挑戰(zhàn)。
聊天機(jī)器人因其模仿各種角色的特定能力而受到關(guān)注，從海盜到會(huì)計(jì)師，知識(shí)但它們的改進(jìn)表現(xiàn)經(jīng)常因不準(zhǔn)確和離題而猶豫不決。這種不一致源于他們的成數(shù)成方訓(xùn)練數(shù)據(jù)的局限性，這些數(shù)據(jù)主要來自互聯(lián)網(wǎng)，據(jù)生并補(bǔ)充了特定于任務(wù)的法用信息。
在LLM的任務(wù)支持下，聊天機(jī)器人在原始文本上進(jìn)行預(yù)訓(xùn)練，特定以掌握語言的知識(shí)細(xì)微差別。然而，改進(jìn)教學(xué)數(shù)據(jù)的成數(shù)成方質(zhì)量仍然是一個(gè)重大障礙，人工生成的數(shù)據(jù)證明是費(fèi)力和昂貴的，而合成數(shù)據(jù)缺乏多樣性。
IBM的LAB方法提供了一種系統(tǒng)的方法來克服這些障礙。通過生成針對特定任務(wù)的合成數(shù)據(jù)，并將新知識(shí)無縫集成到基礎(chǔ)模型中，LAB有望顯著增強(qiáng)聊天機(jī)器人的能力。這種方法減少了通常與LLM培訓(xùn)相關(guān)的時(shí)間和成本，并確保了更健壯和通用的性能。
LAB的引入標(biāo)志著聊天機(jī)器人技術(shù)發(fā)展的關(guān)鍵時(shí)刻，可能會(huì)重塑這些虛擬助手與不同領(lǐng)域用戶的互動(dòng)方式。隨著企業(yè)和行業(yè)越來越依賴聊天機(jī)器人來提供客戶服務(wù)、信息傳播和任務(wù)自動(dòng)化，IBM的創(chuàng)新解決方案可能預(yù)示著對話人工智能效率和有效性的新時(shí)代的到來。
什么是合成數(shù)據(jù)生成?
合成數(shù)據(jù)生成是指創(chuàng)建新數(shù)據(jù)，可以手動(dòng)使用Excel等工具，也可以通過計(jì)算機(jī)模擬或算法自動(dòng)生成新數(shù)據(jù)，以替代實(shí)際數(shù)據(jù)。這個(gè)過程包括從現(xiàn)有數(shù)據(jù)集中生成假數(shù)據(jù)，或者在真實(shí)數(shù)據(jù)不可用的情況下創(chuàng)建一個(gè)全新的數(shù)據(jù)集。生成的數(shù)據(jù)與原始數(shù)據(jù)非常相似，可以在任何時(shí)間、任何位置以任何大小生成。
盡管具有人工的性質(zhì)，但合成數(shù)據(jù)在數(shù)學(xué)上或統(tǒng)計(jì)上復(fù)制了現(xiàn)實(shí)世界的數(shù)據(jù)，類似于從實(shí)際物體、事件或用于訓(xùn)練人工智能模型的人那里收集的數(shù)據(jù)。
生成高質(zhì)量教學(xué)數(shù)據(jù)的高級(jí)方法
* IBM生成高質(zhì)量指令數(shù)據(jù)的方法依賴于一種分類法，該分類法使LLM開發(fā)人員能夠?yàn)樗麄兊牧奶鞕C(jī)器人指定所需的知識(shí)和技能。
*分類邏輯組織LLM的現(xiàn)有知識(shí)和技能，幫助開發(fā)人員識(shí)別和填補(bǔ)新的信息和技能的差距。
*二級(jí)LLM，教師模式，制定一流的指導(dǎo)問答對量身定制的任務(wù)。
*例如，訓(xùn)練聊天機(jī)器人起草CEO總結(jié)第三季度收益的電子郵件，將需要理解財(cái)務(wù)報(bào)表、基本的數(shù)學(xué)能力，以及適當(dāng)總結(jié)財(cái)務(wù)數(shù)據(jù)的能力。
* IBM的分類法將指令數(shù)據(jù)分為三大類:知識(shí)、基礎(chǔ)技能和組合技能。
*教師模式為每個(gè)類別生成指令，同時(shí)保持質(zhì)量控制。
*在實(shí)踐中，LLM開發(fā)人員上傳相關(guān)的財(cái)務(wù)文件和計(jì)算公司收益的方法，允許教師模型根據(jù)這些數(shù)據(jù)生成指令。
*此外，教師模型根據(jù)提供的收益報(bào)告電子郵件樣本，提供計(jì)算收益和編寫所需電子郵件的說明。
*教師模型嚴(yán)格檢查生成數(shù)據(jù)的質(zhì)量，丟棄不相關(guān)的問題和包含不準(zhǔn)確的指令。
*經(jīng)過審查的指令分為知識(shí)、基礎(chǔ)技能和作曲技能，準(zhǔn)備分階段提供給LLM。
*這種畢業(yè)培訓(xùn)方法使LLM能夠逐步建立在其現(xiàn)有的知識(shí)和技能，類似于人類學(xué)習(xí)的進(jìn)展。
LAB方法的影響
IBM研究院利用LAB方法生成了一個(gè)包含120萬條指令的合成數(shù)據(jù)集。兩個(gè)開源LLM,Labradorite 13B(基于Meta的Llama-2-13B模型)和Merlinite 7B(基于Mistral 7B模型)，在該數(shù)據(jù)集上進(jìn)行了訓(xùn)練。對齊的模型在各種基準(zhǔn)(包括連貫的對話和常識(shí)推理)上展示了與最先進(jìn)的聊天機(jī)器人的競爭力。
LAB的兩個(gè)關(guān)鍵特性促成了這些令人印象深刻的結(jié)果。
*首先，教師模型從分類學(xué)的每個(gè)葉節(jié)點(diǎn)生成合成樣例，與隨機(jī)抽樣方法相比，目標(biāo)任務(wù)的覆蓋范圍更廣。
*其次，LAB可以在基礎(chǔ)LLM中添加新的知識(shí)和技能，而無需將這些信息集成到教師模型中。IBM研究院人工智能模型副總裁大衛(wèi)·考克斯(David Cox)表示，這消除了對全能教師模型的需求，將其功能提煉到基本模型中。
LAB允許LLM開發(fā)人員創(chuàng)建指令，而不必?fù)?dān)心使用GPT-4等專有LLM生成合成數(shù)據(jù)的合法性。IBM的LAB方法源于團(tuán)隊(duì)的認(rèn)識(shí)，即卓越的校準(zhǔn)數(shù)據(jù)可以增強(qiáng)為企業(yè)需求量身定制的更小、更具成本效益的模型的功能。雖然預(yù)訓(xùn)練仍然至關(guān)重要，但為模型提供高度精心策劃的特定任務(wù)指令也同樣重要。
常見問題
1.什么是合成數(shù)據(jù)?
合成數(shù)據(jù)是指人工制造的信息，不同于來自真實(shí)世界的數(shù)據(jù)。它是通過算法生成的，可以替代從生產(chǎn)或操作數(shù)據(jù)中獲得的測試數(shù)據(jù)集。合成數(shù)據(jù)用于驗(yàn)證數(shù)學(xué)模型和訓(xùn)練機(jī)器學(xué)習(xí)(ML)模型。
獲取高質(zhì)量的真實(shí)數(shù)據(jù)具有挑戰(zhàn)性、昂貴且耗時(shí)。然而，合成數(shù)據(jù)技術(shù)允許用戶快速、方便、數(shù)字化地生成任何所需數(shù)量的數(shù)據(jù)，以滿足他們的特定要求。
2.為什么合成數(shù)據(jù)很重要?
由于合成數(shù)據(jù)比真實(shí)數(shù)據(jù)具有許多優(yōu)點(diǎn)，因此越來越受到人們的歡迎。根據(jù)Gartner的預(yù)測，到2024年，用于開發(fā)人工智能和分析的數(shù)據(jù)中有60%將是人工產(chǎn)生的。
合成數(shù)據(jù)的主要應(yīng)用是訓(xùn)練神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)模型。開發(fā)人員需要精心標(biāo)記的數(shù)據(jù)集，從幾千到數(shù)千萬個(gè)項(xiàng)目不等。合成數(shù)據(jù)可以模擬真實(shí)數(shù)據(jù)集，使公司無需大量時(shí)間和財(cái)務(wù)投資即可生成多樣化和廣泛的培訓(xùn)數(shù)據(jù)。
3.生成高質(zhì)量教學(xué)數(shù)據(jù)的方法是如何工作的?
該方法依賴于邏輯組織現(xiàn)有知識(shí)和技能的分類法。二級(jí)LLM，即教師模式，根據(jù)任務(wù)制定指導(dǎo)。這些指導(dǎo)分為知識(shí)、基礎(chǔ)和組合技巧，在整個(gè)過程中保持質(zhì)量控制。
4. LAB方法的主要特點(diǎn)是什么?
LAB方法支持從分類法的每個(gè)葉節(jié)點(diǎn)生成合成數(shù)據(jù)，從而提供更廣泛的目標(biāo)任務(wù)覆蓋范圍。此外，它允許在基礎(chǔ)LLM中添加新的知識(shí)和技能，而無需將這些信息集成到教師模型中，從而提高靈活性和效率。
5. LAB方法如何影響聊天機(jī)器人的性能?
利用LAB方法，研究人員生成了一個(gè)合成數(shù)據(jù)集，并訓(xùn)練了開源LLM，從而在各種基準(zhǔn)測試中獲得了具有競爭力的表現(xiàn)。該方法顯著增強(qiáng)了聊天機(jī)器人的能力，為訓(xùn)練和提高聊天機(jī)器人的性能提供了一種經(jīng)濟(jì)高效的解決方案。
6. LAB方法在聊天機(jī)器人開發(fā)中的優(yōu)勢是什么?
LAB方法提供了一種系統(tǒng)的方法來克服現(xiàn)代聊天機(jī)器人的挑戰(zhàn)。它減少了與培訓(xùn)LLM相關(guān)的時(shí)間和成本，確保了更強(qiáng)大的性能，并允許在不受限制的情況下添加新的知識(shí)和技能，從而重塑了會(huì)話式人工智能的前景。
