站長之家(ChinaZ.com)10月7日 消息:OpenAI的Fine-tuning支持function calling(函數(shù)調(diào)用)。在API中,包含一長串函數(shù)可能會消耗大量提示令牌,有時模型會產(chǎn)生幻覺或無法提供有效的JSON輸出。
使用函數(shù)調(diào)用示例微調(diào)模型可以帶來以下好處:
即使沒有完整的函數(shù)定義,也可以獲得類似格式的響應(yīng)。
能夠獲得更準(zhǔn)確和一致的輸出。
什么是function calling(函數(shù)調(diào)用)?
盡管GPT非常強大,但在某些方面可能不夠強大,或者您希望它能夠調(diào)用您的工具來執(zhí)行特定任務(wù),這時候就需要使用函數(shù)調(diào)用。通過在提示中告訴GPT哪些工具可用,這些工具的功能是什么,以及它們需要什么樣的參數(shù)格式。當(dāng)GPT判斷需要使用工具時,它會返回符合格式的參數(shù),然后您的程序?qū)?zhí)行相關(guān)函數(shù),并將結(jié)果返回給GPT。
函數(shù)調(diào)用的示例:
假設(shè)GPT的乘法表現(xiàn)不佳,您可以編寫一個計算器工具。使用GPT的API時,您可以在提示中告訴GPT有一個計算器工具,當(dāng)遇到乘法問題時,提供乘數(shù)和被乘數(shù),然后調(diào)用計算器。實際執(zhí)行過程是這樣的:GPT檢測到乘法問題,返回乘數(shù)和被乘數(shù),計算器執(zhí)行乘法計算,將結(jié)果和之前的信息返回給GPT以繼續(xù)處理。
函數(shù)調(diào)用的一個缺點是每次提示都需要包含function說明,這會消耗token。而在微調(diào)中,不是使用您的個人知識庫,而是使用了一個包含各種工具的工具箱,GPT知道可以使用哪些工具,因此不需要每次在提示中添加說明。官方建議,為了提高準(zhǔn)確性,微調(diào)后仍然建議包括function說明。
(舉報)