「OpenAI憲章」

OpenAIを試用している。

OpenAIの創始者のひとりはイーロン・マスクである。

しか自動運転のテスラーのAI開発で「将来的に(利害が)対立する可能性がある」として、2018年2月、マスクは0penAIの役員を退任している。

イーロン・マスクは以下のようなツイートをしている。

Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes.

Twitter(2014/8/3)

Bostrom の Superintelligence を読む価値があります。 AIには細心の注意を払う必要があります。潜在的に核兵器よりも危険です(Google翻訳を使用)

いまから8年以上前の古いツイートだが、少ななくともツイート当時、マスクは「AIは潜在的に核兵器より危険」という認識を持っていた。

一方、同財団ウェッブサイト上で「OpenAI憲章」を読むことが出来る。

https://openai.com/charter/

その中から一部抜粋する。

We commit to use any influence we obtain over AGI’s deployment to ensure it is used for the benefit of all, and to avoid enabling uses of AI or AGI that harm humanity or unduly concentrate power.

OpenAI Charter

私たちは、AGIがすべての人の利益のために利用されるよう、AGIの展開に関して得られる影響力を行使し、人類を害したり、権力が不当に集中するようなAIやAGIの利用を可能にしないことを約束します。(deepLにて翻訳)

//AGI(Artficial General intelligence/汎用人工知能)