【技術の深い解析】ChatGPTを探る：コードの脱獄から安全対策までの全過程—ゆっくり学ぶAI024
はじめに
ChatGPTの急速な成長に伴い、それは人工知能の分野における注目の的となり、安全性とプライバシー保護に関する広範な議論を引き起こしています。本技術的深堀り解析記事では、ChatGPTの背後にあるセキュリティメカニズムを詳しく探究します。コード実行環境の「脱獄」脆弱性から、OpenAIがどのようにその安全対策を構築しているかまで、読者にChatGPTの安全性の神秘的なベールを開示します。
- ChatGPTは実際に草野球チームのデモ版
- OpenAIの実際の核心チームはChatGPTに関与していない
- その能力はChatGPTを介して実現されたものではない
- GPTsによって呼び出される外部APIは、公開する理由がまったくない
- それはバックグラウンドで処理されるリクエストであり、フロントエンドに出す必要は全くない
- しかし、ChatGPTはそれをあっけらかんと公開した
- ChatGPTには真剣にこの問題に取り組んでほしい
- おそらくすぐに改善されるだろう
- 彼が
このブログのすべての記事は、CC BY-NC-SA 4.0 ライセンスの下で提供されており、特に明記されていない限り、すべての権利を留保します。転載時には出典を明記してください: AI変革への道。
buymeacoffee
関連記事
2024-04-01
挑战100天100个GPTs032.AI 智能信息助手：从AI日报到多场景应用的开发之旅—慢慢学AI052
#挑战100天100个GPTs 写在前面 那无私就说了，太改就是你对 IT 从业人员看起来应该是离 然而，实际情况却大大出乎意料，反而是最顽固的 万般皆韭菜，唯我独清高 缘起，一个自媒体博主居然也能写代码几个月前，无意中刷到一个短视频，一位博主希望获取文章的信息，以前会采用手工打开，复制，粘贴到 Excel 表格里面。突发奇想，就问了 AI，于是开启了他的神奇之旅。 不知道什么是浏览器插件 不知道浏览器插件能干啥的 不知道什么是 Javascript …… 在 ChatGPT 的帮助下，一步步完成了一个浏览器插件。 作为一个很多年，曾经接触过一点代码的人，当时的感觉是这样的： 关于 AI 代替人类的讨论甚喧尘上，我们看到这个视频很好诠释了所谓技术平权的意义。进一步的探索留在文末，我们先从一个简单的 AI 日报制作，来感受一下 AI 给我们带来的改变。 AI 日报，一张海报的诞生这是社区小伙伴刘洋结合 gapier 做的海报，内容详略得当，排版精美优雅。 我们假定就是参考着它来做，那么编程和设计的模式大概会是什么样呢？ 那些做软件的人大概是咋整的为了结果可控，通常软...
2024-03-16
【自然対話】ついに自然言語で会話ができるようになったが、なぜプログラミングに戻る必要があるのか？—ゆっくり学ぶAI029
はじめに プロンプトの中にコードを書くのは本当に必要ない ようやく自然言語での会話ができるようになった 自然言語プログラミングではない プログラミングはプログラマーに任せよう 普通の人に無理をさせないでほしい プログラマーは、必要な場所でコードを書くべきだ プロンプトの中での「幻覚」はデバッグが難しい 普通の人に学習の負担や不安を増やす必要はまったくない プロンプトの中でコードを書く必要はない 1. プロンプトの中でコードを書くとはどういう体験か1.1 一つの失敗したプロンプトの例が我々に教えていることプロンプトと出力結果あなたは、コード実行能力を持つ単語復習カード生成器です。ユーザーが入力した行数、列数、学年、および日付に基づいて、カードを生成します。以下のコードを参考にして実行してください： 1234567891011121314151617181920212223242526272829303132333435363738394041import pandas as pdfrom datetime import datetimedef create_word_...
2024-02-28
【GPTの覚醒】OpenAIが育てたAIは天使か悪魔か？—ゆっくり学ぶAI008
先に結論を述べる ほとんどの人が、以前から成功した独立した開発者でなければ、GPTsを通じて直接お金を稼ぐことはできない 計算の価値は簡単に置き換えられ、蓄積されたデータの価値の方が大きいが、我々には扱いきれない 特定の機能だけでお金が入るとは期待しないこと。今、GPTsを使っているのはPlusユーザーだけだが、みんなで傷つけ合っているのか？ GPTsこの形態が成功する前提は、OpenAIが問題を起こさず、皆がうまくいっていることである プラットフォームがGPTsを通じて利益を上げたければ、競争入札の誘惑に抵抗するのは難しい したがって、あなたのGPTsが利益を上げたいなら、それが役立つことではなく、より多くの人々がそれを見つけることが重要である あなたはそのようなプロモーションを行う自信と資源があるのか？ プロモーションは自身が強くないといけない？どのくらい強く？ 風口はどの時代にも存在するので、逃すことを心配しないでください 風口はトレーニング機関にのみ有効である 今日AIを学ばなければ、明日の朝はお粥すら食べられなくなるかもしれない！ GPTsはある程度、既存の...
2024-05-16
挑战100天100个GPTs076.多学科思维模型—慢慢学AI
#挑战100天100个GPTs 写在前面一家电信运营商要决定要不要全面上 AI 客服。技术部门说”模型够强了，能省 40% 人力”，直接看 ROI；财务部门说”还要算进数据治理、合规审计、人员转岗的隐性成本”；法务说”监管对自动决策的可解释性有新要求”；一线运营说”客户其实更烦的是被转来转去，不是没人接”。四个部门都对，但谁都只看到一面，结论合不到一起。这就是”单一学科视角”的典型翻车：每个部门都把自己最熟的那把锤子抡圆了，结果对着同一个钉子，敲出四种互相打架的判断。 多学科思维模型要治的就是这个病。它不是”什么都学一点”的泛泛号召，而是一套很具体的方法：把你脑子里分散的、来自不同学科的核心模型，挂成一个会自动联动的格栅（latticework），遇到问题时让多个模型同时上，互相纠偏。这套方法的招牌是查理·芒格——他在 1994 年南加州大学商学院的演讲《世俗智慧的基本课程》里第一次系统讲出来：你脑子里大概需要 80 到 90 个来自数学、物理、生物、心理学、经济学这些”大学科的大观念”，挂成一个格栅，遇到问题自动调用，而不是只用一个学科的视角硬套。芒格有句被反复引用的话：”你必...
2024-05-09
挑战100天100个GPTs069.安全边际思维模型—慢慢学AI
#挑战100天100个GPTs 写在前面一座桥，设计成能扛 30000 磅，但你只开 10000 磅的卡车过去。多出来的那 20000 磅，就是安全边际。投资里也是同样道理：一个生意你算下来值 100 块，你只肯花 50 块买，中间那 50 块是你给”自己可能算错”留的缓冲。这套话听起来像废话，可 2026 年这一波 AI 算力狂欢里，最聪明的一批公司偏偏忘了它——五大云厂商把 2026 年资本开支推到 6350 亿到 6900 亿美元区间，是 2024 年的两倍多，可对应的 AI 推理收入增长远远没追上，亚马逊自由现金流被预测在 2026 年转负， hyperscaler 的发债规模被摩根士丹利估到超 4000 亿美元（详见文末引用）。桥造得太满、车开得太重，账面一有偏差就没缓冲，这就是安全边际缺位的代价。 安全边际（margin of safety）这个词，是本杰明·格雷厄姆（Benjamin Graham，1894-1976）在 1949 年《聪明的投资者》（The Intelligent Investor）第 20 章里立起来的。那章的标题直接就叫”安全边际是投资的核心概...
2024-05-31
挑战100天100个GPTs091.可复制化思维模型—慢慢学AI
#挑战100天100个GPTs 写在前面一家公司有个”销冠”——一个人扛了四成业绩，可谁也学不会他怎么卖。老板把全公司销售派去跟他学，听了一周课，回来还是各卖各的。等这个销冠离职，业绩直接塌一半。另一家公司不一样：它没把销冠讲的东西录成课，而是把他成交前后的每一步拆出来——怎么约、怎么问、怎么跟进、用什么话术、卡在哪要换打法——做成一套新人三个月能上手的流程。销冠走了，流程留下，业绩没塌。这就是可复制化思维最朴素的发作姿态：把”靠某个人”换成”靠一套做法”，把一次成功变成可以反复发生的成功。 可复制化思维模型，看的是怎么让成功不只发生在某个人、某个时点身上。一次成功里藏着两类东西：一类是情境性的（当时的市场、那个人的手感、碰巧赶上的窗口），搬不走；另一类是可复制的（关键动作、判断标准、流程顺序、检查清单），只要把它显性化出来、固化成流程、用系统托住，新人新人能上手、新场新场能复用。把它拆成四步：显性化（把说不清的经验变成讲得清的方法）→标准化（把方法变成统一流程和清单）→系统化（用工具/系统代替依赖人）→持续优化（按反馈迭代，不让标准烂掉）。麦当劳靠特许经营手册把一家店...
评论
订阅电子报
最近の記事
