發(fā)展：

 

   人工智能的另一個問題是在不受參數(shù)控制的情況下，人工智能的發(fā)展速度。通用人工智能（AGI）具有指數(shù)級的成長能力，因為它將會自我提升，并且在某一時刻會超過其創(chuàng)造者的智力。農(nóng)業(yè)時代延續(xù)了幾千年，工業(yè)時代延續(xù)了數(shù)百年，信息時代持續(xù)了幾十年，如今人工智能時代僅開始數(shù)年；技術(shù)的增長持續(xù)加速而不是直線發(fā)展，而現(xiàn)在，任何進(jìn)一步的加速都會讓我們毫無準(zhǔn)備地應(yīng)對后果（如果我們采取被動的態(tài)度，而不是積極的姿態(tài)）。我們還沒能創(chuàng)造出超級智能，但我們已經(jīng)掌握了處理能力——中國的天河2號每秒能計算34千萬億次計算（cps），遠(yuǎn)超人類大腦（10千萬億秒）。

 

   如果我們想要負(fù)責(zé)任地運用這種計算能力，我們需要有一個基礎(chǔ)來應(yīng)對它無限制的發(fā)展。這意味著要理解人工智能發(fā)展的倫理道德，如何限制它的使用，以及在出現(xiàn)問題時采用適當(dāng)?shù)姆雷o(hù)措施。

 

   關(guān)于人工智能如何被使用以及未來如何發(fā)展，目前存在一些嚴(yán)重的擔(dān)憂。然而，過度地將被測試的系統(tǒng)個人化，或者被標(biāo)題誤導(dǎo)我們的觀點是不負(fù)責(zé)任的