理想與現(xiàn)實(shí)的道路

OpenAI創(chuàng)立之初擁有滿滿的情懷，但要持續(xù)進(jìn)行高質(zhì)量的研究并長久運(yùn)營下去需要平衡好理想與現(xiàn)實(shí)的微妙關(guān)系。為了回應(yīng)輿論對于這次商業(yè)化的嘗試，OpenAI在官網(wǎng)上從各個(gè)方面對這次的API發(fā)布進(jìn)行了回應(yīng)：

1． 是什么原因促使OpenAI決定發(fā)布商業(yè)化產(chǎn)品？OpenAI的使命是確保人工智能造福人類，產(chǎn)品的商業(yè)化是確保實(shí)現(xiàn)目標(biāo)的有效手段之一。安全地開發(fā)一套強(qiáng)大的AI系統(tǒng)是十分困難的，OpenAI希望API的發(fā)布可以加強(qiáng)合作，攜手解決AI系統(tǒng)在真實(shí)世界中所面臨的挑戰(zhàn)，同時(shí)也為未來的研究提供了更多方向性的指導(dǎo)，更好地保證AI系統(tǒng)安全地服務(wù)全人類。

2． 為何選擇發(fā)布API而不是完整的開源模型？

主要有三個(gè)原因。首先，商業(yè)化可以覆蓋AI研究、安全性和政策倡導(dǎo)的成本開支。其次，API后面的模型往往十分龐大，需要耗費(fèi)大量的人力物力進(jìn)行訓(xùn)練開發(fā)和部署，個(gè)人或者中小企業(yè)無法負(fù)擔(dān)如此龐大的研發(fā)與運(yùn)營成本。所以API的發(fā)布為中小企業(yè)和開發(fā)者提供了接入強(qiáng)大AI系統(tǒng)的能力。此外，API方式可以對技術(shù)的濫用進(jìn)行更快的應(yīng)對。一方面有限制的逐步開放API可以在一定程度上控制對于技術(shù)的濫用，也可以有效管控；另一方面也不像模型會(huì)面臨未知的下游應(yīng)用開發(fā)風(fēng)險(xiǎn)，如果開源的模型被惡意使用將很難有效阻止。

3． 針對有可能的API濫用，OpenAI將要如何解決這一問題？一方面將阻斷有害身心健康的API調(diào)用，包含但不限于騷擾、欺詐、垃圾郵件、激進(jìn)言論和病毒營銷等，并在運(yùn)營中進(jìn)一步優(yōu)化和細(xì)化對于API的管理。同時(shí)也將引導(dǎo)研究人員加強(qiáng)對于模型潛在濫用的研究，通過學(xué)術(shù)服務(wù)合作與第三方研究機(jī)構(gòu)緊密合作。目前通過審核來開放的beta測試API也將進(jìn)一步減小API被濫用的風(fēng)險(xiǎn)，并幫助OpenAI更深入地理解API的內(nèi)涵和局限性。

4． 如何緩和API后臺(tái)模型所包含的有害的偏見和負(fù)面影響？

對于減少像有害偏見這樣負(fù)面影響，是目前對于整個(gè)工業(yè)界都是十分重要但困難的問題。事實(shí)上API后臺(tái)所支撐的GPT－3模型在某些情況下也會(huì)顯示出偏見，所以為了解決這一問題，我們將在以下三個(gè)方面進(jìn)行努力：

一方面給出使用指南，引導(dǎo)用戶學(xué)習(xí)并減小這種偏見的影響；另一方面與用戶緊密合作來理解具體業(yè)務(wù)場景中的問題，并開發(fā)工具來標(biāo)記和干預(yù)有害偏見的表現(xiàn)；最后引導(dǎo)更多研究人員對底層的機(jī)理和理論進(jìn)行研究，更廣泛深入地理解模型的表達(dá)和公平性的影響，協(xié)助用戶解決問題。在這一過程中對API的優(yōu)劣進(jìn)行更為深入地理解，并不斷改進(jìn)工具和工作流程來最大程度地減小負(fù)面影響。

最后，讓我們再來康康基于API的有趣應(yīng)用吧：

智能客服

▼

文本生成

▼

文本補(bǔ)全

▼

語言翻譯

▼