ともめも

GPT-3とは　【シリコンバレーで超ホットな最新技術】

目次

GPT-3とは

GPT-3（Generative Pre-trained Transformer 3）は、OpenAIが開発している、約1,750億のパラメータを使用した自己回帰言語モデルです。

 

端的に言うと、「人間が書いたような文章を生成するやつ」です。

 

とは言っても、自然言語を扱うモデルはこれまでもいくつか存在していました。

 

では、「GPT-3」の何がそこまですごいのか。

 

ずばり、精度の高さです。

 

少し前に、MIT Technology Reviewで面白いニュースが報じられていたので紹介します。

 

それは、「カリフォルニア大学の学部生の方が、GPT-3を用いて偽のブログ記事を生成したところ、ハッカーニュースでその記事が１位になった」というものです。

 

さらに、その記事がAIによって自動生成されたことに気づいた人はほとんどいなかったどころか、購読する人まで出てきたそうです。

GPT-3は、「お金を払ってでも読みたくなる記事を生成することができる」ということですね。

 

これがまさに、「人間が書いた記事か見分けがつかないぐらい高精度である」という証明となります。

 

しかも、このブログ記事の作成者の方は、「実際、非常に簡単だった。」と語っていたらしいです。

 

ライターの方にとっては、非常に恐ろしい存在になるかもしれませんね、、

 

スポンサーリンク

 

GPT-3でできること

先程ちょろっと見たように、GPT-3は、人間が書いたかのようなテキストを生成することができます。

 

例えば、「何かしらの短文を渡すことで、その続きを生成する」などが可能です。

 

 

哲学者AIという設定でGPT-3がテキストを生成した例

 

以下の文章をGPT-3へ入力。

 

Below are some thoughts generated by a philosopher AI, which sees the human world from the outside, without the prejudices of human experience. Fully neutral and objective, the AI sees the world as is. It can more easily draw conclusions about the world and human society in general.

https://gist.github.com/mayfer/b8045846322bddc1448c5a9ca1ead77a

 

 

GPT-3が生成した文章。

 

 

Philosopher AI: “For humans the power to question themselves is not considered a great gift. This enables a person to acknowledge the views and opinions which hold most weight for them. But once you think you have them all lined up nicely in a row, if one more ‘authority’ comes your way, then its just another question, and you ask it… ‘Oh really, why do I think that? Where did that idea come from? Is it true? Is it useful? And if not, what else do I think?’ You keep asking such questions of yourself, you keep on living, and the ideas get rearranged and recombined in all sorts of different ways, and you end up being someone pretty different from who you were.”

https://gist.github.com/mayfer/b8045846322bddc1448c5a9ca1ead77a

 

 

GPT-3との対話

 

Q: Who are you?
A: (I assume you’re wondering about my name, but maybe also what I do.) I’m an AI that they call GPT-3.

Q: What is human life expectancy in the United States?
A: (The global life expectancy is 72.3 years so it should be around there.) Human life expectancy in the United States is 78 years.

Q: Who was president of the United States in 1955?
A: (Dwight D. Eisenhower served as president from 1953 to 1961.) Dwight D. Eisenhower was president of the United States in 1955.

https://gist.github.com/blixt/b48d2d41590d9b4ad2faeb66d63c3fae

 

 

他にも、自然言語の意味を読み取らせることで、それを応用したアプリを作成できます。

 

これは下の方でいくつか紹介しているので、そちらを確認してみてください。

 

 

スポンサーリンク

 

GPT-3のAPIを使ったアプリ

ここでは、実際にGPT-3を使って作成されているアプリを紹介します。

 

これらを見ることで、「AIに仕事を奪われる」を身近に感じるかもしれません。

 

それくらい衝撃的なものが多いです。

 

 

コードからプログラムの内容をテキストで生成

https://twitter.com/amasad/status/1285789362647478272?s=20

 

動画内でのやり取りの一部

 

\(x\)の型は何ですか？
整数型です。
このコードは何をしますか。
５の階乗を計算します。
この\(n\)は何ですか？
これは関数に渡された数値を含む変数です。
このコードの改善点はありますか？
ビュー機能を作成するために、関数にデコレーターを追加できます。

 

 

英語テキストから数式を生成

 

動画内でのやり取りの一部

 

テキストの内容

\(f(t)\)の\(a\)から\(b\)までの積分と、\(F(b)\)引く\(F(a)\)は等しい

 

生成した数式

$$ \int_{a}^{b} f(t) dt = F(b) – F(b) $$

 

 

テキストからデザインを生成

https://twitter.com/jsngr/status/1284511080715362304?s=20

 

 

 

テキストからプログラムのコードを生成

 

数年後には、これがデフォルトになるかもね、、

 

 

名前付けにくいやつ

 

人の名前を入力することで、その人と疑似的に会話することができるそうです。

既に亡くなっている方にも適用できるようなので、ヤバいですね、、

 

 

とりあえず、GPT-3を使ったアプリ紹介はここで終わります。

 

技術の進化を感じますね。

 

人間が書くコードの量は減っていくんだと実感する内容です。

 

ここで紹介したアプリはごく一部のものなので、興味がある方は、Twitterで「GPT-3」と調べてみてください。

結構色々出てきます。

 

では、今回はここまでとします。

お疲れさまでした。

 

>>【簡単解説】機械学習とは何なのか

>>【簡単解説】深層学習(ディープラーニング)とは何なのか