Yapay Zeka, Bilincimizi Tehdit mi Ediyor? Bölüm II

İşlevsiz bu kadar insanla ne yapacağımız 21. yüzyıl ekonomisinin en önemli sorusu hâline geldi. Bilinci olmayan ama alabildiğine yetenekli algoritmalar neredeyse her şeyi daha iyi idare etmeye başladığında, bilinç sahibi insanlar ne yapacak? Tarih boyunca insanlar üç temel sektörde istihdam edilmiştir: tarım, sanayi ve hizmet. 1800’lere kadar nüfusun ağırlıklı bir kısmı tarımda istihdam olurken, sanayi ve hizmet sektöründe yalnızca bir azınlık çalışıyordu. Sanayi Devrimi’yle beraber gelişmiş ülkelerde insanlar tarlalarını ve sürülerini bıraktı. Nüfusun çoğu sanayide çalışmaya başlarken gitgide daha fazla insan hizmet sektörüne kaydı. Geçtiğimiz yıllarda sanayi alanındaki bazı işler ortada  kalktıkça hizmet sektörünün hacmi arttı ve gelişmiş ülkeler bir devrim daha yaşadılar. 2010’da ABD nüfusunun yalnızca yüzde 2’si tarımda, yüzde 20’si sanayide çalışırken yüzde 78’iyse hizmet sektöründe çalışıyor doktorluk, öğretmenlik, tasarımcılık gibi meslekler icra ediyordu. Algoritmalar insanlardan daha iyi teşhis etmeye, öğretmeye ve tasarlamaya başladığında ne yapacağız? Hiç de yeni sayılmayacak bu soru, Sanayi Devrimi’nden beri makineleşme nedeniyle kitleler hâlinde işsiz kalmaktan korkan insanların kafasını kurcalıyor. Bazı meslekler zamanla ölürken yerine yenileri doğdu ama bugüne kadar insanların makinelerden daha iyi yapabildiği şeyler her zaman vardı. Neticede bu doğanın bir kanunu değil ve bu düzenin gelecekte de devam edeceğine dair hiçbir bilgiye sahip değiliz, insanlar fiziksel ve bilişsel olmak üzere iki temel yeteneğe sahiptin Makineler bizimle yalnızca fiziksel yeteneklerini yarıştırsaydı, her zaman daha iyi yapabileceğimiz bilişsel işler yaratabildik. Böylece makineler kol gücü gerektiren işleri tamamen üstlenirken insanlar da bilişsel yetenek isteyen alanları kapatırdı. Peki algoritmalar bilişsel işleri bizden daha iyi yapıp daha iyi hatırladığında, analiz edebildiğinde ve örüntüleri tanıyabildiğinde ne olacak? Bilinci olmayan algoritmaların asla erişemeyeceği, kendi türümüze has bir yeteneği koruyabileceğimize inanmak hayal dünyasında yaşamaktan başka bir şey değil. Bu hayali yıkacak bilimsel cevapları üç maddede özetleyebiliriz.
1. Organizmalar birer algoritmadır. Her hayvan, Homo sapiens de dahil olmak üzere, milyonlarca yıllık bir evrim sürecinde şekillenmiş organik algoritmaların bir araya gelmesiyle oluşur.
2. Algoritmik hesaplar, hesaplamayı yaptığımız aletin malzemesinden etkilenmez. Tahta, metal ya da plastik fark etmez; bir abaküste iki boncuk iki boncuk daha her zaman dört boncuk edecektir.
3. Bu nedenle organik olmayan algoritmaların, organik benzerlerini asla taklit edemeyeceklerini, hatta onları geçemeyeceklerini iddia etmek için ortada hiçbir sebep yoktur. Hesaplar tuttuğu sürece algoritma karbon ya da silikonmuş ne fark eder? Bugün organik algoritmaların, organik olmayan algoritmalardan daha iyi yapabildiği şeyler vardır, doğru. Uzmanların, organik olmayan algoritmaların “asla” erişmeyeceği ancak insanların uzmanlaşabileceği alanların varlığını koruyacağını belirttikleri de doğrudur. Ancak görünen o ki “asla” lafı belki de otuz yıla anlamını yitirecek. Kısa zaman öncesine kadar yüz tanımanın bebeklerin bile yapabildiği ama yeryüzündeki en gelişmiş bilgisayarların beceremediği bir işlem olması, karşılaştırmalarda verilen en popüler örnekti. Bugün yüz tanıma programları, çehreleri insanlardan çok daha hızlı ve etkin ayırabiliyor. Polis güçleri ve istihbarat servisleri şüpheli ve suçluları takip etmek amacıyla yüzlerce saatlik güvenlik kamerası görüntülerini tararken buna benzer programlar kullanıyor.
1980’lerde insanlığın kendine has doğası tartışılırken insanın koşulsuz üstünlüğüne en iyi örnek olarak satranç gösterilir ve bilgisayarların bir insanı asla yenemeyeceği düşünülürdü. 10 Şubat 1996’da IBM’in Deep Blue isimli bilgisayarı dünya satranç şampiyonu Garry Kasparov’u alt ederek insanın üstünlüğü iddiasını tarihe gömdü. Deep Blue oyuna bir adım önde başlamıştı, çünkü yazılımcılar satrancın yalnızca temel kurallarını değil stratejiyle ilgili talimatları da Deep Blue’ya aktarmıştı. Yeni nesil yapay zeka programlarıysa insan tavsiyeleri yerine makine öğrenimini tercih ediyor. 2015’in Şubat ayında Google tarafından geliştirilen DeepMind isimli program kendi kendine kırk dokuz klasik Atari oyununu oynamayı öğrendi. Yazılımcılarından Dr. Demiş Hassabis çalışmalarını, “sisteme verdiğimiz tek bilgi piksellerin yapısal özelliklerinden ve yüksek puan alması gerektiği fikrinden ibaretti,” diyerek özetlemişti. Program, Pac-Man’den Space Invaders’a, araba yarışlarından tenis oyunlarına kadar tüm oyunların kurallarını öğrenmeyi başardı. Çoğu oyunu insanlardan daha iyi oynadığı gibi insan oyuncuların aklına hiç gelmeyen stratejiler de geliştirdi. Bu inanılmaz başarıdan kısa süre sonra yine Google tarafından üretilen AlphaGo yazılımı, kendi kendine Go oynamayı öğrendi. Antik Çin’de bir strateji oyunu olarak gelişen Go, satrançtan katbekat daha karmaşıktır ve yapay zeka programlarının yanına bile yaklaşamayacağı bir hedef olarak görülüyordu.
2016’nın Mart ayında AlphaGo ve Güney Kore Go şampiyonu Lee Sedol, Seul’de karşılaştı. AlphaGo rakibi Lee’yi 4-1 gibi ezici bir üstünlükle yenmekle kalmadı, görülmemiş hareketler ve özgün stratejiler kullanarak ustaları hayrete düşürdü. Karşılaşmadan önce Lee’nin galibiyetinden şüphe duymayan profesyonel Go oyuncuların çoğu, AlphaGo’nun oyununu gördükten sonra pes ederek, bu program ve gelecekteki üst sürüm nesilleri karşısında insanların hiçbir şansı olmadığına ikna oldular.
Bilgisayar algoritmaları son zamanlarda top oyunlarında da rüştünü ispatladı. Beyzbol takımları oyuncu seçerken yıllar yılı profesyonel yetenek avcılarının ve menajerlerin aklına ve deneyimine güvendi. En iyi oyuncular milyon dolarlar kazandıkça zengin takımlar iyinin de iyisini seçebilirken yoksul takımlar geriye kalanlarla yetinmek zorunda kalıyordu. 2002’de düşük bütçeli Oakland Athletics takımının menajeri Billy Beane bu sistemi alt etmeye karar verdi. Ekonomistler ve bilgisayar mühendisleri tarafından üretilmiş gizemli bir bilgisayar algoritmasıyla yetenek avcılarının gözünden kaçan ve kıymeti bilinmeyen oyunculardan, kazanan birtakım yarattı. Ligin ağır topları Beane’in algoritmasının beyzbolun kutsal kapılarından vizesiz geçmesine öfkelenerek son derece rahatsız oldu. Beyzbol oyuncusu seçmek yalnızca tecrübe ve derin bir içgörü sahibi olan insanların icra edebileceği bir sanattı. Bu sanatı beyzbolun ruhunu ve sırlarını çözemeyecek bir bilgisayar programı icra edemezdi. Tahmin edileceği gibi bu ağır toplar kısa sürede saçlarını başlarını yolmaya başladılar. Beane’in mütevazı bütçeli algoritmik takımı (44 milyon dolar) New York Yankees gibi beyzbol devlerinin karşısına dimdik çıkmayı başardığı gibi ligde art arda yirmi maç kazanan ilk takım oldu. Maalesef Beane ve Oakland başarılarının keyfini süremedi. Pek çok beyzbol takımı benzer bir algoritmik yöntemden faydalandı. Yankees ve Red Sox gibi takımlar beyzbol oyuncularına ve bilgisayar yazılımlarına kat be kat daha fazla yatırım yapabildiğinden Oakland Athletics gibi düşük bütçeli takımların sistemi yenmek için artık neredeyse hiç şansı kalmadı. 2004’te MIT’den Profesör Frank Levy ve Harvard’dan Profesör Richard Murnane, yerini otomasyona bırakacak olası meslekleri listeledikleri eksiksiz bir çalışma yayınladılar. Yakın gelecekte makineler tarafından yapılması ihtimal dahilinde olmayan işler arasında tır sürücülüğü de yer alıyordu. Algoritmaların işlek yollarda güvenle tır sürebildiğini hayal etmek pek mümkün değil, diye yazmışlardı. On yıl kadar kısa sürede, Google ve Tesla bunu hayata geçirdi bile. Zaman geçtikçe insanların yerine bilgisayarları geçirmek daha da kolaylaşıyor ancak bunun tek nedeni bilgisayarların hızla akıllanması değil uzmanlaşma problemidir. Avcı-toplayıcı bir robot tasarlamak son derece zor olurdu çünkü geçmişte avcı-toplayıcılar hayatta kalabilmek için sayısız farklı beceriyi öğrenmek zorundaydı. Böyle bir robotun taşlardan mızrak uçları hazırlayabilmesi, ormanda yenilebilir mantarları ayırabilmesi, yaraları sarmak için tıbbi bitkileri kullanabilmesi, bir mamutun izini sürebilmesi ve sürekli onlarca farklı avcıyla irtibat hâlinde kalabilmesi gerekirdi. Ancak birkaç bin yıldır insanlar gittikçe uzmanlaşıyor. Bir taksi şoförü ya da kardiyolog, avcı-toplayıcı atalarına
kıyasla çok daha kısıtlı bir alanda özelleşiyor bu sebeple yerlerini yapay zekaya bırakmaları daha kolay hâle geliyor. Tekrar tekrar vurguladığım gibi yapay zeka hiçbir açıdan insansı bir varlık olmaya yakın değil. Ancak insan özelliklerinin ve yeteneklerinin yüzde 99’u pek çok modern iş için lüzumsuz fazlalıklardan ibaret. Yapay zekaların bizi işgücü piyasasından atabilmesi için mesleki ihtiyacı karşılayacak yeteneklerinin bizden üstün hâle gelmesi yetecek hatta artacaktır. En büyük sorumlulukları omuzlayan yöneticiler bile artık yerlerinden olabilir. Uber adındaki araç bulma programı sayesinde milyonlarca taksi şoförünü bir avuç insan yönetebiliyor. Pek çok talimat hiçbir insan denetimine ihtiyaç duyulmadan algoritmalar tarafından veriliyor.2014’ün Mayıs ayında rejeneratif tıp alanında uzmanlaşan Hong Kong merkezli girişim şirketi Deep Knowledge Ventures, VITAL isimli algoritmayı yönetim kuruluna dahil ederek bir ilke imza attı. VITAL umut vaat eden şirketlerin finansal durumlarını, klinik çalışmaları
ve fikri mülkiyet haklarını gösteren verileri inceleyerek yatırım önerilerinde bulunmaya başladı. Kurulun diğer beş üyesi gibi algoritma da bir şirkete yatırım kararı alınırken oy hakkına sahip oldu.
VITAL’ın bir yönetim kusuru bulunduğunu söylemek mümkün: İltimas. VITAL’ın algoritmalara ağırlık veren şirketlere yatırım yapılmasını önermesi nedeniyle Deep Knowledge Ventures da kendi gibi algoritmalara yatırım yapan Pathway Pharmaceuticals şirketine yatırım yaptı. Pathway Pharmaceuticals en yenilikçi kanser tedavilerini seçen ve değerlendiren OncoFinder adında bir algoritma kullanan yenilikçi tıp şirketlerinden biriydi. Algoritmalar insanları çalışma hayatının dışına iterken, varlık ve güç, algoritmaları avucunda tutan bir grup elitin elinde toplanarak görülmemiş bir sosyal ve siyasi eşitsizlik doğurabilir. Bugün milyonlarca taksici, otobüs ve kamyon sürücüsü ulaşım pazarının küçük bir payını kontrol eden ciddi bir ekonomik ve siyasi nüfuza sahipler. Eğer çıkarları tehlikeye düşerse sendikalaşarak greve gidebilir, boykot edebilip oy toplayabilirler. Ancak milyonlarca şoförün yerine tek bir algoritma geçtiğinde, tüm bu varlık ve güç algoritmaya sahip olan şirketin ve şirket sahibi milyarderlerin elinde toplanacaktır. Bir başka ihtimal de algoritmaların kendilerinin sahibi olmasıdır. Bugün yasalar, şirketler ve milletler gibi öznelerarası varlıkları “tüzel kişilikler” olarak kabul ediyor. Toyota yada Arjantin bir bedene ya da zihne sahip olmasa da uluslararası yasalara tabidir, toprak ya da para sahibi olabilir, mahkemelerde dava açabilir ve dava edilebilirler. Yakında algoritmaları da benzer bir konuma yerleştirebiliriz. Böylece bir algoritma da insan efendinin isteklerine boyun eğmeden bir ulaşım ağı imparatorluğuna ya da girişim sermayesi fonlarına sahip olabilir. Algoritma doğru kararlar vermeyi başarırsa bir servet kazanarak dilediğine yatırım yapabilir, mesela bir ev alarak ev sahibiniz olabilir. Algoritmanın yasal haklarını, örneğin kiranızı ödemeyerek ihlal ettiğinizde, avukat tutup sizi dava edebilir. Böylesi algoritmalar insan
kapasitesini geride bırakmayı başarırsa gezegenin çoğunu satın almış algoritmik bir üst sınıf ortaya çıkabilir. İmkansız görünen bu fikri bir kenara atmadan önce, gezegenimizin ciddi bir kısmının hukuki olarak şirketler ve milletler gibi öznelerarası varlıkların mülkiyetinde olduğunu unutmayın, tıpkı beş bin yıl kadar önce Sümer’in tüm varlıklarının hayali tanrılar Enki ve İnanna’nın elinde olması gibi. Eğer tanrılar toprakları sahiplenebiliyorsa algoritmalar neden yapamasın?
Peki insanlar ne yapacak? Sanat sıklıkla nihai kutsal sığınağımızdır. Bilgisayarların doktorları, şoförleri, öğretmenleri, hatta mülk sahiplerini yerinden ettiği bir dünyada herkes sanatçıya dönüşecektir. Ne var ki sanatsal üretimin algoritmalardan uzak ve güvende olacağına dair gösterilebilecek geçerli bir neden yok. Bilgisayarların bizim kadar iyi beste yapamayacağından nasıl bu kadar emin olabiliriz? Yaşambilimlerine göre sanat büyülü bir ruhun ya da metafiziksel tinin bir ürünü değil de organik algoritmaların matematiksel örüntüleri tanımasının bir sonucuysa, organik olmayan algoritmaların bu konuda ustalaşamaması için hiçbir sebep yok.
California Santa Cruz Üniversitesinde müzikoloji profesörü David Cope konçertolar koraller senfoniler ve operalar besteleyebilen bilgisayar programları geliştirerek klasik müzik dünyasındaki tartışmalı isimlerden biri olarak ünlendi. EMI adındaki ilk yazılımı Johann Sebastian Bach’ı taklit etmekte uzmanlaşmıştı. Yedi yılda geliştirilen EMI tamamlandığında bir gün içinde beş bin Bach korali besteleyebildi. Cope daha sonra Santa Cruz’daki bir müzik festivalinde bu korallerden derlediği bir seçkiyi dinleyicilerle buluşturdu. Dinlediklerinin Bach
olmadığından habersiz, heyecan içindeki dinleyiciler bu mükemmel gösteriyi öve öve bitiremezken müziğin ne kadar dokunaklı olduğundan bahsettiler. Dinlediklerinin Bach değil EMI besteleri olduğunu öğrendiklerindeyse kimileri sessizliğe gömülürken, kimileri öfkeyle bağırdı. Buna rağmen EMI gelişmeye devam etti ve Beethoven, Chopin, Rahmaninov ve Stravinski’yi taklit etmeyi öğrendi. EMI için bir sözleşme yapmayı başaran Cope’un, Bilgisayar Tarafından Bestelenmiş Klasik Müzik Eserleri adı altında piyasaya sürdüğü ilk albüm oldukça iyi bir satış rakamına ulaştı. Tanıtımların artmasıyla beraber klasik müzik müdavimlerinin öfkesi de büyüyordu. Oregon Üniversitesi’nden Profesör Steve Larson, meseleyi müzikal bir karşılaşmada Cope’a meydan okumaya kadar vardırdı: Larson, profesyonel piyanistlerin Bach, EMI ve kendi bestelerinden biri olmak üzere üç besteyi art arda çalmasını, dinleyicilerin de bestelerin sahiplerini tahmin etmesini teklif etti. Larson bir insanın ruh dolu bestesiyle bir makinenin cansız yaratımının arasındaki farkı ayırmanın bir insan için hiç de zor olmayacağından emindi. Cope’un mücadeleyi kabul etmesi üzerine yüzlerce akademisyen, öğrenci ve müzik tutkunu belirlenen günde Oregon Üniversitesi’nin konser salonunda toplandı. Konserin sonunda oylama yapıldı. Sonuçlar mı? Dinleyicinin nezdinde EMI’nın parçası gerçek bir Bach eseri, Bach’ınki Larson’ın bestesi ve Larson’ın yapıtıysa bir bilgisayarın üretimi olmalıydı. Eleştirmenler EMI’nın teknik olarak kusursuz olduğunu ancak bir şeylerin eksik olduğunu öne sürdüler. Her şey çok net ve doğruydu, derinliği eksik, ruhu yoktu. Ne var ki insanlar kaynağını bilmeden EMI’nın bestelerini dinlediklerinde bestelerin duygusal yansımalarını övmeye devam ettiler.
EMI’nın başarısını takiben Cope daha karmaşık programlar geliştirdi. En parlak başarısı Annie oldu. EMI önceden belirlenmiş kuradarla beste yaparken Annie makine öğrenimi kullanıyordu. Müzik tarzı aldığı geribildirimlerle sürekli değişebiliyor ve gelişebiliyordu. Cope aslında Annie’nin metin üretebileceğini hayal bile etmemişti ancak kendini bestelerle sınırlamak istemeyen Annie, haiku şiirleri gibi başka alanları de keşfe çıktı. 2011’de Cope, Comes the Fiery Night: 2,000 Haiku by Man and Machine [Gelir Ateşten Gece: İnsan ve Makineden 2000 Haiku] başlığıyla hangilerinin organik şairler, hangilerinin Annie’ye ait olduğunu belirtmeden 2000 haiku yayımladı. İnsan yaratıcılığıyla makine üretiminin arasındaki farkı anlayabileceğinize inanıyorsanız, iddianızı dilediğiniz gibi sınayabilirsiniz.18 Sanayi Devrimi 19. yüzyılda devasa bir şehirli proletarya yarattı. Yeni işçi sınıfının benzeri görülmemiş ihtiyaçları, umutları ve korkuları karşısında kimse bir çözüm bulamadıkça sosyalizm yayıldı. Liberalizm sosyalist planların en iyi yanlarını alarak sonunda sosyalizmi yenilgiye uğratmayı başardı. 21. yüzyılda bizde yeni ve devasa bir işsiz sınıfının doğuşuna tanık olabiliriz. Bu sınıf ekonomik, siyasi, hatta sanatsal üretimde herhangi bir rolü olmayan, toplumun refahına,gücüne ve şanına hiçbir katkı sunamayacak insanlardan oluşacak. Bu “işe yaramaz sınıf” işsiz olmakla kalmayacak, istihdam edilemez de olacak. 2013’ün Eylül ayında Oxford’da, Cari Benedikt Frey ve Michael A. Osborne adındaki iki araştırmacı, The Future of Employment [İstihdamın Geleceği] adlı bir çalışma yayınladılar. Çalışma, gelecekteki yirmi yıl içinde bilgisayar algoritmaları tarafından devralınacak muhtemel meslekleri inceliyordu. Frey ve Osborne tarafından geliştirilen algoritma, ABD’deki mesleklerin yüzde 47’sinin yüksek riskli olduğunu hesapladı, örneğin2033’te insanlar yüzde 99 ihtimalle telepazarlama ve sigortacılık işlerini algoritmalara kaptıracak. Aynı durum hakemlerin yüzde 98’inin, kasiyerlerin yüzde 97’sinin, şeflerin yüzde 96’sının, garsonların ve avukat asistanlarının yüzde 94’ünün, tur rehberlerinin yüzde 91’inin, fırıncıların ve otobüs sürücülerinin yüzde 89’unun, inşaat işçilerinin yüzde 88’inin, veteriner yardımcılarının yüzde 86’sının, güvenlik görevlilerinin yüzde 84’ünün, denizcilerin yüzde 83’ünün, barmenlerin
yüzde 77’sinin, arşivcilerin yüzde 76’sının, marangozların yüzde 72’sinin, cankurtaranların yüzde 67’sinin ve daha birçoklarının başına gelecek. Bazı güvende meslekler de olacak tabii. Bilgisayar algoritmalarının, 2033 itibarıyla arkeologların yerine geçme ihtimali yalnızca yüzde 0.7 çünkü çok kâr getirmeyen bu iş, çok karmaşık konularda yetkinlik ve örüntüleri tanıma becerisi gerektiriyor Bu yüzden şirketler ya da hükümetlerin, önümüzdeki yirmi yılda arkeolojiyi makineleştirme ihtimali çok düşük. 2033’te pek çok yeni meslek de türeyebilir tabii, örneğin sanal dünya tasarımcıları. Sıradan işinizden çok daha fazla yaratıcılık ve esneklik gerektirecek bu yeni işler düşünüldüğünde, önümüzdeki kırk yılda kasiyerlerin ya da sigortacıların kendilerini sanal dünya tasarımcısı olarak yeniden yaratıp yaratamayacağını kestirmek oldukça zor (Bir sigortacı tarafından yaratılmış sanal bir dünya hayal etsenize!) Yapabilseler bile, değişim bu hızda devam ettikçe her on yılda bir kendilerini baştan yaratmaları gerekecektir Sonuçta algoritmalar sanal dünyaları da insanlardan daha iyi tasarlayabilir Bu nedenle aslında yeni meslekler türetebilmekten çok, bu meslekleri icra eden insanların algoritmalardan daha iyi olabilmesini sağlamakta zorlanacağız. Bu beklenmedik teknolojik bolluk içinde hiç çaba göstermeseler bile işe yaramayan kitleleri beslemek ve desteklemek mümkün olacaktır Peki hepsini nasıl meşgul edip memnun edeceğiz? İnsanlar bir şey yapmazlarsa delirirler Tüm gün ne yapacaklar? Sunulan çözümlerden biri uyuşturucu ve bilgisayar oyunları olabilir. Amaçsız ve ihtiyaç duyulmayan insanlar zamanlarının gitgide daha büyük bir kısmını dışarıdaki donuk gerçeklikten daha heyecanlı ve duygusal bağlar kurmalarını sağlayan üç boyutlu sanal gerçeklik dünyalarında geçirebilir. Böylesi bir gelişme, liberalizmin insan hayatının ve deneyiminin kutsallığına duyduğu inancın şahdamarına son darbe gibi inecektir Günlerini La La Land’de sanal deneyimlerle harcayan bu işe yaramayan başıboş aylakların nesi kutsal olabilir? Nick Bostrom’un da aralarında olduğu bazı uzman ve düşünürler, yapay zeka insan zekasını geçtiğinde insan türünü zaten yok edeceğinden insanevladının bahsi geçen düşüşü yaşamayacağı konusunda uyarıda bulunuyor. Yapay zeka ya insan türünün kendisine düşman kesilerek fişini çekeceği korkusuyla ya da bambaşka akıl ermez bir amaç uğruna bunu yapabilecektir. İnsanlar açısından da kendilerinden akıllı bir sistemin isteklerini kontrol etmek oldukça zor olacaktır.
Sistemi görünüşte iyi amaçlarla programlamak bile tahmin edilemeyecek kadar ters tepebilir. Popüler bir senaryoda, ilk süper yapay zekayı tasarlayan şirket, programı pi sayısını hesaplamak gibi masum bir teste tabi tutar. Kimse daha ne olduğunu anlamadan, yapay zeka gezegeni ele geçirir, insan ırkını ortadan kaldırıp galaksinin dört bir köşesine işgal seferleri düzenler, bilinen tüm evreni süper bir bilgisayara dönüştürür ki milyarlarca yıl boyunca pi sayısını daha doğru hesaplamaya devam edebilsin. Sonuçta Yaratıcısının kendisine verdiği ilahi görev budur.