Podcast: Bir makineye sağduyu öğretebilir misin?

<pre>Podcast: Bir makineye sağduyu öğretebilir misin?


Yapay zeka hayatımızın o kadar büyük bir parçası haline geldi ki, etkileşimde bulunduğunuz algoritmaların sayısını kaybettiğiniz için affedileceksiniz. Ancak hava durumu tahmininizi, Instagram filtrenizi veya favori Spotify çalma listenizi güçlendiren AI, hiper zeki düşünme makineleri endüstri öncüleri onlarca yıldır üzerinde kafa yoruyorlar.

Derin öğrenme, mevcut AI patlamasını yönlendiren teknolojimakineleri her türlü işte usta olacak şekilde yetiştirebilir. Ancak bir seferde yalnızca bir tane öğrenebilir. Ve çoğu yapay zeka modeli, becerilerini binlerce veya milyonlarca mevcut örnek üzerinde eğittiği için, tarihsel verilerdeki kalıpları kopyalarlar – beyaz olmayan insanları ve kadınları marjinalleştirmek gibi insanların verdiği birçok kötü karar da dahil.

Yine de, masa oyunu şampiyonu AlphaZero ve giderek ikna edici hale gelen sahte metin oluşturucu GPT-3 gibi sistemler, insanların ne zaman bir yapay genel zeka– çoklu görev yapabilen, düşünebilen ve kendileri için mantık yürütebilen makineler.

Fikir bölücüdür. Cevabın ötesinde Nasıl sağduyu ya da kendini geliştirme yeteneğine sahip teknolojiler geliştirebiliriz, başka bir soru daha var: İnsan zekasının yapay bir zihinde kopyalanmasından kim gerçekten faydalanır?

MIT Technology Review kıdemli AI muhabiri ve yazarı Karen Hao, "Bugün yapay zeka tarafından üretilen değerin çoğu, ellerinde fantastik miktarda kaynağa sahip olan milyar dolarlık şirketlere geri dönüyor," diyor. Algoritma. "Ve bu değeri nasıl dönüştüreceğimizi veya bu değeri diğer insanlara nasıl dağıtacağımızı gerçekten çözemedik."

Deep Tech'in bu bölümünde, yapay zeka kıdemli editörümüz Hao ve Will Douglas Heaven, yapay bir genel zekanın mümkün olup olmadığı ve bunun ne olduğu konusundaki farklı düşünce okullarını tartışmak için baş editörümüz Gideon Lichfield'e katıldı. oraya ulaşmak için sürer.

Ödeme Deep Tech'in daha fazla bölümü burada.

Notları ve bağlantıları göster:

Tam bölüm transkripti:

Gideon Lichfield: Yapay zeka artık o kadar yaygın ki, muhtemelen onu kullandığınızı düşünmüyorsunuz bile. Web aramalarınız. Google Çeviri. Alexa ve Siri gibi sesli asistanlar. Snapchat ve Instagram'daki o şirin küçük filtreler. Sosyal medyada gördüğünüz ve görmediğiniz şeyler. Kredi kartı şirketinizden dolandırıcılık uyarıları. Amazon önerileri. Spotify çalma listeleri. Trafik yönleri. Hava Durumu. Her zaman yapay zeka.

Ve bunların hepsi "aptal AI" olarak adlandırabileceğimiz şeylerdir. Gerçek zeka değil. Gerçekten sadece kopyalama makineleri: Binlerce veya milyonlarca doğru örnek üzerinde eğitilerek gerçekten özel şeyler yapmayı öğrenen algoritmalar. Yüz ve konuşma tanıma gibi bazı şeylerde, insanlardan bile daha doğrudurlar.

Tüm bu ilerleme, sahadaki eski bir tartışmayı yeniden canlandırdı: gerçek zeka, bağımsız olarak kendileri için düşünebilen makineler? Bugün benimle birlikte MIT Technology Review'un yapay zeka ekibi var: Yapay zeka kıdemli editörümüz Will Heaven ve kıdemli yapay zeka muhabirimiz ve yazarı Karen Hao Algoritma, AI haber bültenimiz. Her ikisi de yapay zekadaki ilerlemeyi ve yapay bir genel zekanın mümkün olup olmadığı ve oraya ulaşmak için ne yapılması gerektiği konusundaki farklı düşünce okullarını takip ediyorlar.

Ben Gideon Lichfield, MIT Technology Review'in baş editörü ve bu Deep Tech.

Will, yapay bir genel zeka yaratabilir miyiz sorusu üzerine 4000 kelimelik bir hikaye yazdın. Yani bunu kendine yapmak için bir sebebin olmalı. Bu soru şu anda neden ilginç?

Will Douglas Heaven: Yani bir anlamda her zaman ilginçti. İnsanların yapabileceği şeyleri düşünebilen ve yapabilen bir makine inşa etmek, en başından beri AI'nın hedefi olmuştur, ancak bu uzun, uzun bir mücadele oldu. Ve geçmiş hype başarısızlığa yol açtı. Yani bu yapay genel zeka fikri, çok tartışmalı ve bölücü hale geldi – ama geri dönüşü var. Bu, büyük ölçüde, son on yılda derin öğrenmenin başarısı sayesinde. Ve özellikle DeepMind tarafından yapılan ve bir tür Japon satrancı ve satranç olan Go ve Shogi oynayabilen Alpha Zero gibi sistemler. Aynı algoritma üç oyunu da oynayabilir. Ve OpenAI'nin geniş dil modeli olan GPT-3, insanların yazma şeklini esrarengiz bir şekilde taklit edebilir. Bu, özellikle geçen yıl insanları bu soruları tekrar sormaya yöneltti. Yapay genel zeka oluşturmanın eşiğinde miyiz? İnsanlar gibi düşünebilen ve yapabilen makineler.

Gideon Lichfield: Karen, Will'in az önce bahsettiği GPT-3 hakkında biraz daha konuşalım. Bu algoritma, bilirsiniz, ona birkaç kelime verirsiniz ve Shakespeare'e ya da ona ne yapmasını söylerseniz ikna edici bir şekilde benzeyen paragraflar ve paragraflar ortaya çıkarır. Ama bir yapay zeka açısından bu kadar dikkat çekici olan ne? Daha önce yapılamayan ne yapıyor?

Karen Hao: İlginç olan şey, GPT-3'e yol açan gelişmelerin aslında epeyce yıl önce gerçekleştiğini düşünüyorum. 2017 yılında, doğal dil işlemede bir ilerleme dalgasını tetikleyen ana atılım, transformatör fikrini tanıtan makalenin yayınlanmasıyla gerçekleşti. Ve bir transformatör algoritmasının dil ile ilgilenme şekli, milyonlarca hatta milyarlarca örneğe, paragraf yapısının cümlelerine, hatta kod yapısına bakmasıdır. Ve kalıpları çıkarabilir ve çok etkileyici bir derecede tahmin etmeye başlayabilir, hangi kelimelerin birlikte en anlamlı olduğunu, hangi cümlelerin birlikte en anlamlı olduğunu. Ve sonra bu gerçekten uzun paragrafları ve denemeleri oluşturun. GPT-3'ün farklı şekilde yaptığını düşündüğüm şey, şu anda bu transformatör tekniğini eğitmek için kullanılan çok daha fazla verinin olduğu gerçeğidir. OpenAI'nin GPT-3 ile yaptığı şey, onu yalnızca Wikipedia gibi corpora'dan veya New York Times veya Reddit forumları gibi makalelerden ya da bunların hepsinden daha fazla kelime örneği üzerine eğitmek değil, aynı zamanda üzerinde de eğitim alıyorlar, cümle kalıpları, onu paragraf kalıpları üzerinde eğitiyor, sonuç paragrafına karşı giriş paragrafı olarak neyin mantıklı olduğuna bakıyor. Yani daha fazla bilgi alıyor ve gerçekten insanların nasıl yazdığını, müzik notalarının nasıl oluşturulduğunu veya kodlamanın nasıl kodlandığını çok yakından taklit etmeye başlıyor.

Yani daha fazla bilgi alıyor ve gerçekten insanların nasıl yazdığını, müzik notalarının nasıl oluşturulduğunu veya kodlamanın nasıl kodlandığını çok yakından taklit etmeye başlıyor.

Gideon Lichfield: Ve tüm bu farklı yapı türlerinden desenler çıkarabilen transformatörlerden önce, yapay zeka ne yapıyordu?

Karen Hao: Daha önceleri doğal dil işleme aslında .. çok daha basitti. Dolayısıyla, dönüştürücüler, algoritmaya dil arasında tam olarak ne araması gerektiği söylenmeyen kendi kendini denetleyen bir tekniktir. Sadece kendi başına kalıplar arıyor ve dil kompozisyonunun tekrar eden özellikleri olduğunu düşünüyor. Ama ondan önce, dile yönelik çok daha denetimli yaklaşımlar vardı ve insanların makinelere öğrettikleri "bunlar isimler, bunlar sıfatlar. Bu şeyleri birlikte inşa edeceğiniz şekilde" gibi çok daha katı kodlanmış dil yaklaşımları vardı. Ve maalesef bu, her kelimenin bir etiketinin olması gereken bir dili denemek ve düzenlemek için çok zahmetli bir süreç. Ve makineye bu şeyleri nasıl inşa edeceğini manuel olarak öğretmek gerekiyor. Ve böylece bu tekniklerin beslenebileceği veri miktarını sınırladı. Ve bu yüzden dil sistemleri gerçekten çok iyi değildi.

Gideon Lichfield: Öyleyse, denetimli ve kendi kendine denetlenen öğrenme arasındaki bu ayrıma geri dönelim, çünkü bunun genel bir zeka haline gelebilecek bir şeye doğru ilerlemenin oldukça önemli bir parçası olduğunu göreceğimizi düşünüyorum. Will, yazınızda yazdığınız gibi, yapay genel zeka dediğimizde ne demek istediğimiz konusunda bile çok fazla belirsizlik var. Oradaki seçeneklerden biraz bahseder misin?

Will Douglas Heaven: Bir çeşit spektrum var. Demek istediğim, bir tarafta, yapay zekayı ya da aptal YZ'yi daraltan pek çok şeyi yapabilen sistemleriniz var, isterseniz bugün yapabilirsiniz, ama hepsini aynı anda yapabilir. Ve Alpha Zero, belki de bunun ilk görüntüsüdür. Kendini üç farklı şey yapmak için eğitebilen bu bir algoritma, ancak burada önemli bir uyarı, bu üç şeyi aynı anda yapamaz. Yani görevler arasında geçiş yapabilen tek bir beyin gibi değil. Deepmind'ın kurucu ortaklarından Shane Legg'in söylediği gibi, sanki sizin ya da benim mecbursunuz, bilirsiniz, satranç oynamaya başladığımızda, beynimizi değiştirip satranç beynimize koymak zorunda kaldık.

Bu açıkça çok genel değil, ancak bu tür bir şeyin zirvesindeyiz – bir yapay zekanın yapay zekanın yapabileceği birçok farklı şeyi yapabildiği türden çok araçlı yapay zeka. Ve sonra spektrumda yukarı doğru ilerlerken, muhtemelen daha fazla insanın AGI hakkında konuştuklarında kastettiği şey, düşünme makineleri, korkutucu alıntılarda "insan benzeri" olan ve bir kişinin yapabileceği şekilde çoklu görev yapabilen makinelerdir. Son derece uyarlanabilir olduğumuzu biliyorsunuz. Bilirsiniz, yumurta kızartmakla, bilirsiniz, şarkı söylemek için bir blog yazısı yazmak arasında geçiş yapabiliriz. Yine de, spektrumun diğer ucuna giden, AGI hakkında konuşmak için bir makine bilincine ip atan halk da var. Biliyorsunuz, sadece yapabileceğimiz şeyleri yapmakla kalmayıp aynı zamanda yapabileceğimiz şeyleri yapabileceğini bilen bir makineye sahip olana kadar gerçek genel zekaya veya insan benzeri zekaya sahip olamayacağız. orada kendini yansıtma. Bence tüm bu tanımlar başından beri var, ancak AGI'yi konuşmayı zorlaştıran ve oldukça tartışmalı kılan şeylerden biri çünkü net bir tanım yok.

Gideon Lichfield: Yapay genel zeka hakkında konuştuğumuzda, insan zekasının kendisinin de kesinlikle genel olduğuna dair bu tür üstü kapalı bir varsayım vardır. Evrenseldir. Bir yumurta kızartabiliriz ya da bir blog yazısı yazabiliriz ya da dans edebiliriz ya da şarkı söyleyebiliriz. Ve bunların hepsi, herhangi bir genel zekanın sahip olması gereken becerilerdir. Ama gerçekten durum bu mu yoksa farklı genel zeka türleri olacak mı?

Will Douglas Heaven: Sanırım ve bence AI topluluğundaki pek çok kişi de birçok farklı zeka olduğu konusunda hemfikir olacak. Bu insan benzeri zeka fikrine bir nevi takılıp kaldık, büyük ölçüde sanırım çünkü insanlar uzun zamandır sahip olduğumuz en iyi genel zeka örneğiydi, bu yüzden neden bir rol model oldukları açık, biliyorsun , biz kendi imajımıza göre makineler yapmak istiyoruz, ama siz sadece hayvanlar alemine bakıyorsunuz ve zeki olmanın birçok farklı yolu var. Karıncaların sahip olduğu sosyal zeka türünden, ahtapotlara toplu olarak gerçekten olağanüstü şeyler yapabildikleri, zeki olduklarını daha yeni anlamaya başlıyoruz, ama sonra çok yabancı bir şekilde zekiler kendimize kıyasla. Ve şempanzeler gibi en yakın kuzenlerimizin bile farklı zekaları var ve siz, onların becerilerinden insanlardan farklı.

Bu yüzden, eğer genel olarak zeki hale gelirlerse, makinelerin bizim gibi olması gerektiği fikri, bildiğiniz gibi, saçma, pencereden dışarı çıkıyor. İnsan olan bir AGI inşa etme misyonunun kendisi belki de anlamsız çünkü insan zekasına sahibiz, değil mi? Kendimiz var. Öyleyse neden bunları yapan makineler yapmamız gerekiyor? Yapamayacağımız şeyleri yapabilen zekalar oluşturmak çok çok daha iyi olurdu. Yeteneklerimize iltifat etmek için farklı şekillerde zekidirler.

Gideon Lichfield: Karen, insanlar açıkça süper zeki bir yapay zekanın dünyayı ele geçirme tehdidi hakkında konuşmayı seviyorlar, ama gerçekten endişelenmemiz gereken şeyler nelerdir?

Karen Hao: Son yılların en büyüklerinden biri algoritmik ayrımcılık oldu. Bu fenomen, küçük ya da büyük algoritmaları tarihsel verilere dayalı kararlar almak için eğittiğimizde fark etmeye başladık, bu, insanların marjinalleştirilmesi gibi tarihsel veriler içinde kopyalanmasını zorunlu olarak istemeyebileceğimiz kalıpları tekrarlamakla sonuçlanır. renk ya da kadınların ötekileştirilmesi.

Tarihimizde toplum olarak ilerlerken ve ilerlerken onsuz yapmayı tercih ettiğimiz şeyler. Ancak algoritmaların çok akıllı olmadıkları ve bu kalıpları çıkardıkları ve bu kalıpları akılsızca kopyaladıkları için, Batı merkezli olmayan belirli kültürlere karşı kadınlara karşı ayrımcılık yapan renkli insanlara karşı ayrımcılık yapan kararlar alıyorlar.

Üstün zeka veya YÜZ çevresinde tehditleri azaltma konusunda düşünmemiz gereken yollardan bazılarından bahseden insanlar arasında gerçekleşen konuşmaları gözlemlerseniz, nasıl adlandırmak isterseniz, bu değer uyumu zorluğundan bahsedeceklerdir. Değer uyumu, değerlerimizi anlamak ve değerlerimizle uyum sağlamak için bu süper akıllı yapay zekayı nasıl elde edeceğimiz olarak tanımlanıyor. Değerlerimize uymazlarsa, çılgınca bir şeyler yapabilirler. Ve bu, insanlara nasıl zarar vermeye başlar.

Gideon Lichfield: Kötü olmayan bir yapay zekayı, süper zeki bir yapay zekayı nasıl yaratırız?

Karen Hao: Kesinlikle. Kesinlikle. Bu nedenle, gelecekte değer hizalamasını bundan yüz yıl sonra anlamaya çalışmaktan bahsetmek yerine, şu anda değerleri bugün çok temel AI'larla hizalamayı ve aslında algoritmik ayrımcılık problemini çözmeyi nasıl başaramadığımızdan bahsediyor olmalıyız.

Bir diğer büyük zorluk, yapay zekanın doğal olarak yarattığı gücün yoğunlaşmasıdır. Gelişmiş yapay zeka sistemleri oluşturmak ve son teknoloji ürünü kırmak için bugün inanılmaz miktarda hesaplama gücüne ihtiyacınız var. Ve şu anda gerçekten bu kadar hesaplama gücüne sahip olan tek oyuncular büyük teknoloji şirketleri ve belki de en üst düzey araştırma üniversiteleridir. Üst düzey araştırma üniversiteleri bile artık büyük teknoloji şirketleriyle zar zor rekabet edebiliyor.

Öyleyse Google Facebook'un dünyanın elmaları. Um, insanların sahip olduğu başka bir endişe, bundan yüz yıl sonra süper zeki yapay zekanın serbest bırakılmasıdır, aslında insanlara eşit şekilde fayda sağlayacak mı? Bunu da bugün çözemedik. Bugün yapay zeka tarafından üretilen değerin çoğu, emrinde zaten fantastik miktarda kaynağa sahip olan milyar dolarlık şirketlere geri dönüyor. Ve bu değeri nasıl dönüştüreceğimizi veya bu değeri diğer insanlara nasıl dağıtacağımızı gerçekten çözemedik.

Gideon Lichfield: Pekala, o zaman o genel zeka fikrine ve yapabilseydik onu nasıl inşa edeceğimize geri dönelim. Derin öğrenmeden daha önce bahsetti Will. Bugün kullandığımız yapay zekanın çoğunun temel tekniği budur. Ve sadece yaklaşık sekiz yaşında. Karen, geçenlerde EmTech konferansımızda derin öğrenmenin babası Geoffrey Hinton ile konuştun. Ve çeviri hizmetleri veya yüz tanıma gibi şeyler için kullandığımız teknik olan derin öğrenmenin, sonunda oraya vardığımızda genel bir zekanın temeli olacağını düşünüyor.

Geoffrey Hinton [ From EmTech 2020]: Derin öğrenmenin her şeyi yapabileceğine inanıyorum. Ancak, henüz sahip olmadığımız birkaç kavramsal atılımın olması gerektiğini düşünüyorum. // Özellikle akıl yürütme gibi şeyleri uygulamak için büyük nöral aktivite vektörlerini nasıl elde edeceğinizle ilgili atılımlar, ancak aynı zamanda büyük bir ölçek artışına da ihtiyacımız var. // İnsan beyninin yaklaşık yüz trilyon parametresi vardır, yani sinaps. Yüz trilyon. Şu anda GPT-3 gibi gerçekten büyük modeller olarak adlandırılanların 175 milyar var. Beyinden binlerce kez daha küçük.

Gideon Lichfield: Derin öğrenmenin ne olduğunu açıklayarak başlayabilir misin?

Karen Hao: Derin öğrenme, yapay zeka yaratmanın yolunun beynimizdeki sinir ağlarına dayanan yapay sinir ağları yaratmak olduğu fikrine dayanan bir teknikler kategorisidir. İnsan beyni, bugün sahip olduğumuz en akıllı zeka şeklidir.

Açıkçası Will, bu teoriye yönelik bazı zorluklardan bahsetti, ancak insan zekasının bugün sahip olduğumuz zekanın özü gibi olduğunu varsayarsak, yapay beyinleri bir tür insan beyni görüntüsünde denemek ve yeniden yaratmak istiyoruz. Ve derin öğrenme budur. Yapay sinir ağlarını yapay zeka elde etmenin bir yolu olarak kullanmaya çalışan bir tekniktir.

Bahsettiğiniz şey, yapay genel zeka geliştirmeye nasıl yaklaşabileceğimiz konusunda sahada büyük ölçüde iki farklı kamp var. İlk kamp, ​​ihtiyacımız olan tüm tekniklere zaten sahip olduğumuz, sadece onları daha fazla veri ve daha büyük sinir ağlarıyla kitlesel olarak ölçeklendirmemiz gerekiyor.

Diğer kamp ise derin öğrenme yeterli değil. Sağduyu ya da akıl yürütme gibi bugün yapay zeka alanında anlaşılması güç olan bazı şeyleri başarmak için derin öğrenmeyi desteklemek için henüz çözemediğimiz başka bir şeye ihtiyacımız var.

Gideon Lichfield: Öyleyse Will, az önce Karen'ın bahsettiği gibi, derin öğrenmeden genel bir zeka oluşturabileceğimizi düşünen insanlar, ona bazı şeyler eklememiz gerektiğini düşünüyorlar. Bunlardan bazıları neler?

Will Douglas Heaven: Derin öğrenmenin gidilecek yol olduğunu düşünenler arasında. Demek istediğim, Karen'ın dediği gibi daha fazla veri yüklemenin yanı sıra, insanların derin öğrenmeyi ilerletmek için kullandıkları bir dizi teknik var.

Gözetimsiz öğrenmeye sahipsiniz, bu da .. geleneksel olarak birçok derin öğrenme başarısı, örneğin sadece kedileri tanımanın klişeleşmiş örneğini kullanmak içindir. Bunun nedeni, AI'nın insanlar tarafından "kedi" olarak etiketlenmiş milyonlarca resim üzerinde eğitilmiş olmasıdır. Biliyorsun, bu bir kedinin neye benzediğini öğren. Denetimsiz öğrenme, makinenin içeri girip bu şekilde etiketlenmemiş verilere bakması ve kendisinin kalıpları tespit etmeye çalışmasıdır.

Gideon Lichfield: Yani başka bir deyişle, ona bir grup kedi, bir grup köpek, bir grup cevizli turta gibi verirsiniz ve bu onları gruplara ayırır mı?

Will Douglas Heaven: Evet. Esasen öncelikle bu kategoriler arasındaki ayırt edici özelliklerin ne türden olduğunu öğrenmesi gerekir. Ve kendini tanımlama yeteneği, bilirsiniz, bu ayırt edici özellikler nelerdir, daha iyi bir öğrenme yoluna doğru bir adımdır. Ve elbette tüm bu verileri etiketleme görevi çok büyük olduğu için pratik olarak kullanışlıdır.

Ve bu yolda devam edemeyiz, özellikle de sistemin daha fazla veri üzerinde eğitim almasını istiyorsak. Manuel olarak etiketleme yoluna devam edemeyiz. Ve daha da ilginç olanı, denetimsiz bir öğrenme sisteminin, insanların sahip olmadığı kategorilerinizi tespit etme potansiyeline sahip olduğunu düşünüyorum. Yani aslında makineden bir şeyler öğrenebiliriz.

Ve sonra transfer öğrenme gibi şeyler var ve bu genel zeka için çok önemli. Bu, bir şekilde bir dizi veri üzerinde eğitilmiş bir modele sahip olduğunuz yerdir. Ve bu eğitimde öğrendiklerini, her seferinde sıfırdan başlamak zorunda kalmamak için bunu yeni bir göreve aktarabilmek istersiniz.

Dolayısıyla, transfer öğrenmeye yaklaşmanın çeşitli yolları vardır, ancak örneğin, bir eğitimden, bir tren ağından bazı değerlerin bir kısmını alabilir ve diğerini tanımasını istediğinizde öyle bir şekilde önceden yükleyebilirsiniz. , farklı bir hayvanın imgesi, zaten bir anlamda, bilirsiniz, hayvanların sahip olduğu, bilirsiniz, bacakları, başları ve kuyrukları var.

Sende ne var Yani sadece öğrenilen bazı şeyleri bir görevden diğerine aktarabilmek istiyorsunuz. Ve sonra, birkaç atış öğrenme gibi şeyler var, ki bu, sistemin çok az eğitim örneğinden öğrendiği veya adından da anlaşılacağı gibi. Ve bu da çok önemli çünkü bu sistemlere öğretmek için her zaman çok fazla veriye sahip değiliz.

Demek istediğim, düşündüğünüzde insanlara kıyasla son derece verimsizler. Bilirsiniz, bir örnek, iki örnekten ders alabiliriz. Bir çocuğa, bir zürafanın resmini gösterirsiniz ve zürafanın ne olduğunu bilir. Hatta herhangi bir örnek söylemeden bir şeyin ne olduğunu öğrenebiliriz.

Karen Hao: Evet. Evet. Eğer düşünürseniz çocuklar… Onlara bir atın resmini gösterirseniz ve sonra onlara bir gergedan resmi gösterirseniz ve bilirsiniz, tek boynuzlu at bir at ile gergedan arasında bir şeydir derseniz, belki de aslında resimli kitapta bir tek boynuzlu atı ilk gördüklerinde, bunun bir tek boynuzlu at olduğunu anlayabilirsiniz. Ve işte gördüğünüz örneklerden daha fazla kategoriyi bu şekilde öğrenmeye başlıyorsunuz ve bu, derin öğrenmenin başka bir alanı olan düşük vuruşlu öğrenme veya tek aşamalı öğrenme denen bir ilham kaynağı. Ve yine, bu sistemlerin çok, çok çok küçük veri örneklerinden öğrenmesini sağlayabilirsek, tıpkı insanların yaptığı gibi, öğrenme sürecini gerçekten güçlendirebilir.

Gideon Lichfield: Benim için bu daha genel bir soruyu gündeme getiriyor; YGZ alanındaki insanları, insan beyninin bilgiyi nasıl temsil ettiği hakkında hala çok az şey bildiğimiz halde, bilgiyi dijital olarak temsil eden bir makinede zeka üretebileceğinizden bu kadar emin yapan şey budur. İnsan zekasını dijital bir makinede yeniden yaratabileceğimiz çok büyük bir varsayım değil mi?

Will Douglas Heaven: Evet katılıyorum. Bugün gördüğümüz bazı sinir ağlarının boyutları ve bağlantıları açısından muazzam karmaşıklığına rağmen, beynin ölçeğine uyan her şeyden, hatta oldukça basit bir hayvan beyninden çok uzaktayız. . Yani evet, bunu yapabileceğimiz fikri arasında büyük bir uçurum var, özellikle mevcut teknoloji, mevcut derin öğrenme teknolojisi ile.

Ve tabii ki, Karen'ın daha önce tanımladığı gibi, sinir ağları beyinden, beynimizdeki nöron nöronlarından ilham alır. Bu beyne bakmanın tek yolu. Demek istediğim, beyinler sadece nöron yığınları değildir. Farklı görevlere ayrılmış ayrı bölümleri vardır.

Öyleyse yine, çok büyük bir sinir ağının genel zekaya ulaşacağı fikri yine, biraz inanç sıçraması çünkü belki genel zeka, adanmış yapıların nasıl iletişim kurduğu konusunda bazı ilerlemeler gerektirebilir. Yani bu hedefin peşinden koşanları bildiğiniz başka bir uçurum var.

Bilirsiniz, bazıları sadece sinir ağlarını büyütebileceğinizi düşünüyor. Diğer insanlar, herhangi bir derin öğrenme algoritmasının özelliklerinden geri adım atmamız ve daha büyük resme bakmamız gerektiğini düşünüyor. Aslında, bilirsiniz, belki sinir ağları beynin en iyi modeli değildir ve beynin farklı bölümlerinin nasıl iletişim kurduğuna bakan daha iyi ağlar inşa edebiliriz, bilirsiniz, toplamın bütünden daha büyük olduğunu .

Gideon Lichfield: Felsefi bir soruyla bitirmek istiyorum. Daha önce AGI savunucularının bile bilinçli olacağını düşünmediklerini söylemiştik. Düşünceleri olup olmayacağını bile söyleyebilir miyiz? Bizim yaptığımız anlamda kendi varlığını anlayacak mı?

Will Douglas Heaven: Alan Turing'in 1950 Can Machines Think makalesinde, biliyorsunuz ki, yapay zeka hala sadece bu teorik fikirken bile, onu bir tür mühendislik olasılığı olarak ele almadık bile. Şu soruyu gündeme getirdi: Bir makinenin düşünebildiğini nasıl anlarız? Ve o yazıda, bilirsiniz, bu bilinç fikrine değiniyor. Belki bazı insanlar gelip makinelerin asla düşünemeyeceğini söyleyecek çünkü makinelerin düşünebildiğini asla söyleyemeyeceğiz çünkü bilinçli olduklarını söyleyemeyeceğiz. Ve o argümanı şimdiye kadar zorlarsanız, o zaman aynı şeyi söylemek zorunda kalırsınız diyerek bir nevi reddediyor. Her gün tanıştığınız diğer insanlar, hiçbirinizin bilinçli olmadığını söylememin nihai bir yolu yok. Bunu bilmemin tek yolu, sen olmayı deneyimlememdi. Ve iletişimin kesildiği ve bizim gidemeyeceğimiz bir tür yer olduğu noktaya gelirsiniz. Yani bu soruyu göz ardı etmenin bir yolu. Demek istediğim, bilinç sorusunun sonsuza kadar süreceğini düşünüyorum. Bir gün sanki onlarmış gibi davranan makinelerimiz olacak .. düşünebilirler ve bilirsiniz, insanları o kadar iyi taklit edebilirler ki, onlara bilinçliymiş gibi davranabiliriz, ama gerçekten olup olmadıkları konusunda. Hiç bileceğimizi sanmıyorum.

Gideon Lichfield: Karen, bilinçli makineler hakkında ne düşünüyorsun?

Karen Hao: Demek istediğim, Will'in söylediklerinden yola çıkarak, bilincin ne olduğunu bile biliyoruz. Ve sanırım aslında Tufts'taki bir profesörün çalışmasına dayanırdım. Yapay zekaya yapay yaşam perspektifinden yaklaşıyor. Tüm farklı şeyleri nasıl kopyalıyorsunuz?

Sadece beyin değil, aynı zamanda vücutta iletişim kurmak için kullandığımız ve zekası olan elektrik darbeleri veya elektrik sinyalleri gibi. Eninde sonunda vücudumuzdaki veya bir hayvanın vücudundaki her küçük şeyi, her küçük işlemi temelde yeniden yaratabiliyorsak, o zaman neden bu varlıklar bizim sahip olduğumuz bilince sahip olmasın?

Will Douglas Heaven: Şu anda beyin organoidleri hakkında harika bir tartışma olduğunu biliyorsunuz, bunlar nöronlara büyümek için yapılmış küçük kök hücre kümeleri ve hatta bağlantılar geliştirebilirler ve bazılarında bu elektriksel aktiviteyi görüyorsunuz. Ve dünya çapında insan beyni hastalıklarını daha iyi anlamak için bu küçük beyin lekelerini inceleyen çeşitli laboratuvarlar var. Ama devam eden gerçekten ilginç bir etik tartışma var, bilirsiniz, bu elektriksel aktivite hangi noktada yükseliyor? Petri tabaklarındaki bu küçük parçaların bilinçli olma ihtimali. Bu da gösteriyor ki, makine beyinleri bir yana, kendi beyinlerimiz için bile iyi bir bilinç tanımımız yok.

Karen Hao: Ve eklemek isterim ki, yapay için gerçekten iyi bir tanımımız yok. Yani yapay, genel zeka hakkında konuşursak, bu sadece ekler.

Bu terimi oluşturan bu üç kelimeden hiçbirinin iyi bir tanımına sahip değiliz. O halde Will'in Petri kaplarında büyüyen bu organoidlerle ilgili olarak belirttiği noktaya gitmek yapay olarak kabul ediliyor mu? Değilse neden? Yapay olanı organik malzemeden yapılmayan şeyler olarak mı tanımlıyoruz? Bahsettiğimiz tüm şeylerin etrafında çok fazla belirsizlik ve tanım var, bu da bilinç sorusunu çok karmaşık hale getiriyor.

Will Douglas Heaven: Aynı zamanda onları konuşacakları eğlenceli şeyler yapar.

Gideon Lichfield: Deep Tech'in bu bölümü için bu kadar. Ve aynı zamanda şimdilik yaptığımız son bölüm. Önümüzdeki aylarda başlatmayı umduğumuz diğer bazı ses projeleri üzerinde çalışıyoruz. Bu yüzden lütfen onlara göz kulak olun. Ve henüz yapmadıysanız, iki haftada bir çıkan In Machines We Trust adlı AI podcast'imize göz atmalısınız. Normalde podcast'leri dinlediğiniz her yerde bulabilirsiniz.

Deep Tech yazarı ve yapımcılığını Anthony Green, editörü ise Jennifer Strong ve Michael Reilly'dir. Ben Gideon Lichfield. Dinlediğin için teşekkürler.