ChatGPT 和 Whisper API 已开放接口，单价骤减 90% ，有哪些值得关注的信息？

美西时间3月1日（周三），OpenAI宣布正式推出面向商业用户的ChatGPT和Whisper语音转文字API（application programming interface，中译“应用程序编程接口”），并给出了一系列商业伙伴已经上线的案例。
OpenAI目前允许第三方开发者通过API将ChatGPT集成到其APP和服务中。而通过新的Whisper API，用户也能以极低的价格转录或翻译音频。
ChatGPT成本降低90%

由于全球目前对ChatGPT API的使用需求巨大，这导致去年年底创建的一个未经授权的API违反了OpenAI的服务规则。如今，OpenAI已经推出自己的API来满足需求。据悉，新API的计算将在线下和云设备上进行。
OpenAI表示，其ChatGPT API不仅可以用于创建人工智能驱动的聊天界面，尽管其同时强调几家公司一直在使用它来实现这一目的，包括本周早些时候宣布的Snap的My AI功能。OpenAI表示，全新API基于“gpt-3.5-turbo”模型，其基础是支持ChatGPT的GPT 3.5模型，取代了此前的“text-davinci-003.”。更为重要的是，在去年12月后，公司已经成功将ChatGPT的成本压低了90%。

果然Github上第一时间出现了awesome系列，先点个star，后面慢慢看：

; n+ K- g7 @5 Yhttps://github.com/reorx/awesome-chatgpt-api

现在价格比之前便宜了10倍，让很多潜在的挑战者们倒吸一口凉气。
! Y! ^2 ~4 g, ]$ X/ A而且价格只是其中一方面，还记得我之前在另一个答案里提到过，为什么摩根大通（JP Morgan）等很多金融公司会限制员工使用 ChatGPT呢？
因为大公司对内部数据的管理非常严格。你与ChatGPT交流时难免会在聊天中牵涉到商业内幕信息和客户隐私数据，即使数据经过脱敏处理，量大了也会包含蛛丝马迹很难确保不被有心人利用。另一个更大的风险是，OpenAI可能会把你分享的信息用作训练材料来改善它自己的AI模型，甚至在ChatGPT往后的回答中将这些信息泄露出去。
而现在OpenAI已经收到了足够多的负反馈，决定更改策略。现在起，用户可以选择拒绝将通过 API 提交的数据用于ChatGPT服务改进，包括模型训练等。而且设置默认数据保留时间为30天，避免了用户忘记删除导致的隐私泄露，你也可以根据自己的需求选择延长保留时间。
如此迅速的反馈和调整，实在是非常感慨OpenAI的效率。

最可怕的是，目前chatGPT还远远不是openAI的天花板。
2 G; [  y- {* ?+ H预测1年～2年内，多模态GPT就会诞生，就叫它mmGPT吧。文本视觉对齐：CLIP、图像生成器：Diffusion Model、文本生成器：GPT，关键这三个还都是openAI搞的。
mmGPT一出到时候视觉、自然语言的所有监督任务都是zero shot？或者prompt instruct？
到时候大量的“算法工程师”可能会面临失业....，所以对于像我一样的咸鱼算法工程师的建议：
3 m8 w" B) C! J3 b* F: r

• 去安全的行业，比如金融、军工等对数据保密要求高的行业企业，这样开源AI SaaS服务暂时影响不到。
  2 O3 W! `) r/ R5 O
• 去做行业专业度要求极高的，公开数据少的行业，比如医疗视觉等
  
• 开始研究Prompt工程，拥抱gpt
  
• 研究AI伦理、道德、可解释性等，做AI圈的环保人士
  
• 做AI骇客，模型安全方向，主攻模型渗透，梯度样本攻击啥的
  ! _% `) s% H8 n8 M

国产chatgpt复刻还未上马
5 l& }0 J- Q2 d9 f8 e$ P就已经快被对手扼杀了……
% K4 z* d# x, K7 p6 l$ o7 ^6 ^( W0 C价格更低，速度更快

- c$ H# i  c" ZAI巨头OpenAI发布了ChatGPT API，这个重磅新闻引起了业界的广泛关注。
% V$ S* C# B* {$ B: Z0 Z  WChatGPT API背后的模型上被称为GPT-3.5-Turbo，Turbo这个代号在一月前就推出了付费用户ChatGPT Plus时使用过。相比之前的版本，这个API速度更快，输出更稳定，背后可能使用了类似Mixture of Expert动态路由机制进行加速。
6 t; E  G( H' s) ^

更令人兴奋的是，ChatGPT API的调用价格是原来GPT-3.5-Davinci的1/10，也就是说，差不多调用回复消耗一百万个token，只需要2美元。这样一来，成本急剧下降，将带来下游智能app的全面爆发。或许自己从头训练或者finetune模型已经不划算了。
. Q/ W* }4 k2 E( }调用方式变化
7 N- l5 z6 ]$ d% c' {! m
5 l3 d3 o$ j1 Z" w3 t7 t& `4 k目前，ChatGPT API的调用方式与原始GPT-3.5-Davinci稍有不同。有两个大的变化。
1 B! |4 M6 ]8 S# L

第一个是增加了system角色，类似于全局指引，让ChatGPT在整个对话中都遵循这个要求。这就意味着，ChatGPT能够更好地理解上下文信息，从而提供更好的回复。
" E: C. o8 k% U0 J7 K另外一个变化是在调用中会标记出user角色，来区分是用户发出信息，还是ChatGPT回复的。这样方便进行对话，也就是可以将之前多轮的对话session都包括进来，从而获得更好的用户体验。
语音API、商业化

除了ChatGPT API，OpenAI还放出了Whisper API，这是一个语言转文本的模型，对于转录音频、语音助手、字幕工具都非常有用。这个API也将成为业界的新宠，备受关注。
$ i; V( ]2 y9 d  @/ ^& R

- s0 {; g! y! a) B6 f+ h现在，OpenAI已经开始商业化，官网介绍中展示有诸多企业Snap, Instacart, Shop已经开始合作。可以说当你还在考虑其是否有商业价值，是否是资本泡沫时，OpenAI已经偷偷数钱啦 。
6 r. C8 x0 o/ _9 _0 w9 `+ z4 p8 d' s( q总结
- S# I4 N# V, j- Y. o/ d
" p! F; \" ~( c0 [* q从ChatGPT刚刚放出，到推出付费版，再到现在开放ChatGPT API，发展速度如此迅猛始料未及。OpenAI的举动让我们看到了人工智能技术发展的无限可能性。
在这个时代，人工智能技术已经成为各行各业的必备技能，而OpenAI的ChatGPT API和Whisper API的推出，无疑会为人工智能的应用带来新的思路和方法。
ChatGPT API的推出和OpenAI商业化的举动，标志着人工智能技术正逐步向着大众化和商业化的方向迈进，AI技术的应用场景将会更加广泛，普及程度也会更高。

现在要打起十二万分的精神来警惕ChatGPT接口开放后如雨后春笋般爆发的各种强大的自研AI工具。
3 Q& n: ^9 x' \# U这个价格直观上可以不觉得有什么，但是换算一下你就知道多恐怖了。
/ O+ [( \9 u4 F( g- i2 y2 fAPI的Python使用方法：
, @* d8 R. t  X+ u<a href="http://www.zhihu.com/zvideo/1614718145725394944" data-draft-node="block" data-draft-type="link-card"># coding=utf-8
! m( v6 g$ S2 |  e* {. Zimport openai
. i  {& l, _/ g; r7 w& ^8 Vopenai.api_key = '输入你的key'

4 @  @  }; A& Rdef use(prompt):
        response = openai.ChatCompletion.create(
                  model="gpt-3.5-turbo",
                  messages=[
" L4 `9 F. y* k  K- i3 z, i. s                        {"role": "user", "content": prompt}
                    ]
( s0 k" C0 B4 K4 b3 X  L                )
  \% I4 B  d6 m0 q5 Q9 i0 q/ {: W        return response['choices'][0]['message']['content']

5 s$ W1 I* j; F0 P3 ~% k* j- aif __name__ == "__main__":

  V3 k/ O9 A' s* @0 E& C0 j0 l        r = use('输入你的问题')
        print(r)
  ^5 d! z  U, q% ]& p0 C, I防止有些同学看不到，我把OpenAI的文章拿过来，也省的有些媒体断章取义。
第一部分：介绍ChatGPT和Whsper这两个model现在可以在他们提供的API用了。
9 p  a2 k: r/ l; \2 R' C. y
& L  ]* z" V5 t7 [2 A$ l. x
2 \( v8 ~- O& }ChatGPT是text-to-text的，用过的大家都知道，而是Whisper是speech-to-text，就相当于可以语音转文字。成本降低了90%，如果有些二道贩子跟你说降价，不是因为它良心发现，而是供货商降价了。
! P' [% I# y: Z) B4 N

  w$ O4 o" H( s5 r8 o第二部分：介绍了五个已经接入ChatGPT接口的公司，好家伙，OpenAI是真的强，悄咪咪的已经跟五家公司搞出成品了。
关键是背后还有多少家正在搞？
1 Snap Inc，就是snapchat那家，集成的产品是一个ChatBot，这家公司很久没怎么见了，可能想这一波试着搞点噱头。


! s% f) f" Q1 p. i# t2 Quizlet，一家学习平台，有超过6000万的学生，人家已经跟OpenAI合作了超过3年，现在接入ChatGPT是在做自适应的AI Tutor，可以理解为一个AI家教或者老师。
& N% o! b0 n( ~( W
4 M1 `% u+ z( f( J( e* c9 r: Y
3 Instacart，看起来是一个购物网站，用ChatGPT来帮助客户进行购物辅助，比如根据生成的食材表进行推荐购物等等。
+ Y/ [9 T" I( [% f- u5 c6 F

4 shop，这个我见过，我看是代替了传统的搜索，而直接用ChatGPT进行智能推荐了。
4 `# _) d) e; \& v# g* T
- s# _$ s# a/ L  z3 Q# [
3 o  w9 r- |' s: M1 N5 speak，韩国的一个产品，用来辅助学习英语。
8 k! s; R# k% a2 Q% i/ Q如果这个产品成行了，我看口语老师也得失业。


不过我感觉撑死就是下面这种模式套了个精美的壳子。
, W- p  h0 r9 q0 {4 m第三部分，介绍API
* Y  z& B  Y& J$ h7 L* r第一个ChatGPT API，主要就是gpt-3.5-turbo这个模型，也就是现在ChatGPT用的，价格1000token 花费0.002美元。
- @2 D2 V3 y* |7 n( K
( Q7 j% Y/ k5 _. t9 G4 Z1 O  n
( p! r( e8 w* G; e0 e另外，学python吧，使用这么一个牛逼的工具只需要这么几行的python代码。


另外一个whisper API
9 a+ V1 L; r, z7 P3 N5 x( P接受各种格式的音频m4a, mp3, mp4, mpeg, mpga, wav, webm，价格一分钟0.006美元。
3 \0 I/ c: E6 I5 f" ^
/ x7 f: P; G' P8 B, ~$ H2 O9 a
用python还是只需要4行。

. ?5 ~. t4 D, C* `, I$ F$ ]2 F总结，真厉害，最后，还是谨防有些炒作的厂商。