ChatGPT 和 Whisper API 已开放接口，单价骤减 90% ，有哪些值得关注的信息？

美西时间3月1日（周三），OpenAI宣布正式推出面向商业用户的ChatGPT和Whisper语音转文字API（application programming interface，中译“应用程序编程接口”），并给出了一系列商业伙伴已经上线的案例。
. W! T8 I) l: N3 Z. O% ~" HOpenAI目前允许第三方开发者通过API将ChatGPT集成到其APP和服务中。而通过新的Whisper API，用户也能以极低的价格转录或翻译音频。
, j' N7 R8 G4 Y3 o* C" JChatGPT成本降低90%
  o# F" y5 b$ Z
* F  A4 p8 c) T2 L3 P( R+ J$ V& v由于全球目前对ChatGPT API的使用需求巨大，这导致去年年底创建的一个未经授权的API违反了OpenAI的服务规则。如今，OpenAI已经推出自己的API来满足需求。据悉，新API的计算将在线下和云设备上进行。
# r' R; l, A- f$ N' W, J7 oOpenAI表示，其ChatGPT API不仅可以用于创建人工智能驱动的聊天界面，尽管其同时强调几家公司一直在使用它来实现这一目的，包括本周早些时候宣布的Snap的My AI功能。OpenAI表示，全新API基于“gpt-3.5-turbo”模型，其基础是支持ChatGPT的GPT 3.5模型，取代了此前的“text-davinci-003.”。更为重要的是，在去年12月后，公司已经成功将ChatGPT的成本压低了90%。

果然Github上第一时间出现了awesome系列，先点个star，后面慢慢看：
  i. y: i5 S# t+ a
https://github.com/reorx/awesome-chatgpt-api

现在价格比之前便宜了10倍，让很多潜在的挑战者们倒吸一口凉气。
8 g1 M# h7 p# q+ v: i而且价格只是其中一方面，还记得我之前在另一个答案里提到过，为什么摩根大通（JP Morgan）等很多金融公司会限制员工使用 ChatGPT呢？
因为大公司对内部数据的管理非常严格。你与ChatGPT交流时难免会在聊天中牵涉到商业内幕信息和客户隐私数据，即使数据经过脱敏处理，量大了也会包含蛛丝马迹很难确保不被有心人利用。另一个更大的风险是，OpenAI可能会把你分享的信息用作训练材料来改善它自己的AI模型，甚至在ChatGPT往后的回答中将这些信息泄露出去。
" \/ y7 u; Y. }: y5 }0 H9 B" s$ x2 ~而现在OpenAI已经收到了足够多的负反馈，决定更改策略。现在起，用户可以选择拒绝将通过 API 提交的数据用于ChatGPT服务改进，包括模型训练等。而且设置默认数据保留时间为30天，避免了用户忘记删除导致的隐私泄露，你也可以根据自己的需求选择延长保留时间。
7 {, K# C7 c4 g2 H- u如此迅速的反馈和调整，实在是非常感慨OpenAI的效率。

最可怕的是，目前chatGPT还远远不是openAI的天花板。
预测1年～2年内，多模态GPT就会诞生，就叫它mmGPT吧。文本视觉对齐：CLIP、图像生成器：Diffusion Model、文本生成器：GPT，关键这三个还都是openAI搞的。
mmGPT一出到时候视觉、自然语言的所有监督任务都是zero shot？或者prompt instruct？
到时候大量的“算法工程师”可能会面临失业....，所以对于像我一样的咸鱼算法工程师的建议：
  Z/ h* o) }# o7 F2 z4 f1 {

• 去安全的行业，比如金融、军工等对数据保密要求高的行业企业，这样开源AI SaaS服务暂时影响不到。
  . S, U+ g2 x. `3 w7 v
• 去做行业专业度要求极高的，公开数据少的行业，比如医疗视觉等
  
• 开始研究Prompt工程，拥抱gpt
  
• 研究AI伦理、道德、可解释性等，做AI圈的环保人士
  % v. _5 }% Z. U
• 做AI骇客，模型安全方向，主攻模型渗透，梯度样本攻击啥的
  ) H4 ^/ {* M4 R  z1 R+ k* _

国产chatgpt复刻还未上马
! b) |, G  Z6 J% U  I就已经快被对手扼杀了……
0 u+ b6 `" {" v. H# A7 z价格更低，速度更快

AI巨头OpenAI发布了ChatGPT API，这个重磅新闻引起了业界的广泛关注。
ChatGPT API背后的模型上被称为GPT-3.5-Turbo，Turbo这个代号在一月前就推出了付费用户ChatGPT Plus时使用过。相比之前的版本，这个API速度更快，输出更稳定，背后可能使用了类似Mixture of Expert动态路由机制进行加速。
; [8 L) }" b$ ~2 ^

* q: R2 w3 q* P更令人兴奋的是，ChatGPT API的调用价格是原来GPT-3.5-Davinci的1/10，也就是说，差不多调用回复消耗一百万个token，只需要2美元。这样一来，成本急剧下降，将带来下游智能app的全面爆发。或许自己从头训练或者finetune模型已经不划算了。
9 r5 w3 l+ J' r* `调用方式变化

目前，ChatGPT API的调用方式与原始GPT-3.5-Davinci稍有不同。有两个大的变化。
4 Y/ H( }# B1 N+ L
/ F# h; a1 a# d# `$ L+ k- t
第一个是增加了system角色，类似于全局指引，让ChatGPT在整个对话中都遵循这个要求。这就意味着，ChatGPT能够更好地理解上下文信息，从而提供更好的回复。
另外一个变化是在调用中会标记出user角色，来区分是用户发出信息，还是ChatGPT回复的。这样方便进行对话，也就是可以将之前多轮的对话session都包括进来，从而获得更好的用户体验。
语音API、商业化

3 h9 S+ N3 e" u6 l/ y' N除了ChatGPT API，OpenAI还放出了Whisper API，这是一个语言转文本的模型，对于转录音频、语音助手、字幕工具都非常有用。这个API也将成为业界的新宠，备受关注。
0 f. I' {% K( P/ i, R3 }
' F$ l. A: ~& O! J, a# z
9 K7 u. [, l8 y现在，OpenAI已经开始商业化，官网介绍中展示有诸多企业Snap, Instacart, Shop已经开始合作。可以说当你还在考虑其是否有商业价值，是否是资本泡沫时，OpenAI已经偷偷数钱啦 。
总结

从ChatGPT刚刚放出，到推出付费版，再到现在开放ChatGPT API，发展速度如此迅猛始料未及。OpenAI的举动让我们看到了人工智能技术发展的无限可能性。
+ e' Q# k' P: ]. K# H/ w1 |在这个时代，人工智能技术已经成为各行各业的必备技能，而OpenAI的ChatGPT API和Whisper API的推出，无疑会为人工智能的应用带来新的思路和方法。
* X/ ?0 P- p9 g1 i0 \$ DChatGPT API的推出和OpenAI商业化的举动，标志着人工智能技术正逐步向着大众化和商业化的方向迈进，AI技术的应用场景将会更加广泛，普及程度也会更高。

现在要打起十二万分的精神来警惕ChatGPT接口开放后如雨后春笋般爆发的各种强大的自研AI工具。
这个价格直观上可以不觉得有什么，但是换算一下你就知道多恐怖了。
( U$ L( A; c1 I) e/ dAPI的Python使用方法：
/ u% ?( `/ m7 r. C2 k<a href="http://www.zhihu.com/zvideo/1614718145725394944" data-draft-node="block" data-draft-type="link-card"># coding=utf-8
import openai
5 [7 C5 ^2 C8 Q9 Q- ?& Topenai.api_key = '输入你的key'
2 C* m) R& L" {8 e8 M7 T
# ~/ {' e1 b' `/ W! wdef use(prompt):
        response = openai.ChatCompletion.create(
. J% ^. b+ Z: h0 T& z                  model="gpt-3.5-turbo",
                  messages=[
                        {"role": "user", "content": prompt}
2 O6 `  i! g" ]. h# _; N- y                    ]
) g$ }0 E; N; I% Z+ T                )
        return response['choices'][0]['message']['content']
$ b$ U4 t6 p/ C9 G& c. l
8 v9 n7 [. N8 T; Iif __name__ == "__main__":

# P$ c: E, j$ j2 |0 I" `4 q" j0 c6 s' H* T        r = use('输入你的问题')
8 ~6 S( W- f  z2 x) y# e        print(r)
. R! z! T/ o# ?9 C& ]% a: J防止有些同学看不到，我把OpenAI的文章拿过来，也省的有些媒体断章取义。
第一部分：介绍ChatGPT和Whsper这两个model现在可以在他们提供的API用了。
1 x4 U; `, k$ \/ K5 G! i& n
7 X: {& s! ^9 v8 P. t
  V6 `0 J+ V1 E  w/ J6 D# gChatGPT是text-to-text的，用过的大家都知道，而是Whisper是speech-to-text，就相当于可以语音转文字。成本降低了90%，如果有些二道贩子跟你说降价，不是因为它良心发现，而是供货商降价了。


8 O9 Q0 O- O! O1 r$ t& P6 m第二部分：介绍了五个已经接入ChatGPT接口的公司，好家伙，OpenAI是真的强，悄咪咪的已经跟五家公司搞出成品了。
9 M, b/ H2 Q! }0 R关键是背后还有多少家正在搞？
1 Snap Inc，就是snapchat那家，集成的产品是一个ChatBot，这家公司很久没怎么见了，可能想这一波试着搞点噱头。
4 u* d8 o8 q! [  t% Y9 s

2 Quizlet，一家学习平台，有超过6000万的学生，人家已经跟OpenAI合作了超过3年，现在接入ChatGPT是在做自适应的AI Tutor，可以理解为一个AI家教或者老师。
) B  V& W0 E, r" p

3 Instacart，看起来是一个购物网站，用ChatGPT来帮助客户进行购物辅助，比如根据生成的食材表进行推荐购物等等。


$ Q4 t# V7 c: [  b. j* |4 shop，这个我见过，我看是代替了传统的搜索，而直接用ChatGPT进行智能推荐了。
& q2 J& v* p% ^( T

( q+ q4 o2 X. {+ N$ Y5 speak，韩国的一个产品，用来辅助学习英语。
" ^$ Y4 M: [3 ?6 F如果这个产品成行了，我看口语老师也得失业。


不过我感觉撑死就是下面这种模式套了个精美的壳子。
第三部分，介绍API
第一个ChatGPT API，主要就是gpt-3.5-turbo这个模型，也就是现在ChatGPT用的，价格1000token 花费0.002美元。
+ F' e6 V3 N7 Q" X4 h
6 z/ L, s7 S' _- ]/ b+ L3 m" k
) x1 P6 ~7 Y/ ~" {* g" V/ ^: [另外，学python吧，使用这么一个牛逼的工具只需要这么几行的python代码。

" ~/ f7 U1 m: V' E
另外一个whisper API
# Y& d2 s0 I  i2 V2 Y- s' `6 F; m接受各种格式的音频m4a, mp3, mp4, mpeg, mpga, wav, webm，价格一分钟0.006美元。

9 G3 A3 v) V1 r; n% o& k
用python还是只需要4行。
0 _+ e; H. o& Z& ^2 R% I+ V4 l
7 n6 c& Q8 E/ M. ^% W7 L6 b. r总结，真厉害，最后，还是谨防有些炒作的厂商。