Yapay Zekanın Kara Kutusu

Teknoloji 09/12/2019 AI Yapay Zeka
Artifical Intelligence

KLİNİKLER, tüm dünyada derin öğrenme denilen yapay zeka türünün takviyesi başlamadan veya bu tür tıbbi görüntüleri analiz gibi ortak görevlerde insanların yerini almaktadır. Halen, Boston'daki Massachusetts Genel Hastanesinde, “her yıl yaptığımız 50.000 tarama mamogramının her biri derin öğrenme modeli aracılığıyla işlenmektedir ve bu bilgiler radyologa verilmektedir” diyor hastanenin göğüs görüntüleme bölümü şefi Constance Lehman .

Derin öğrenmede, makine öğrenmesi adı verilen bir tür yapay zekanın alt kümesi olan bilgisayar modelleri temel olarak büyük veri kümelerinden tahminler yapmayı kendileri öğretir. Teknolojinin ham gücü son yıllarda çarpıcı bir şekilde artmıştır ve şu anda tıbbi teşhislerden çevrimiçi alışverişe ve özerk araçlara kadar her şeyde kullanılmaktadır.

Ancak, derin öğrenme araçları da endişe verici sorunlar doğurur, çünkü sorunları insanların her zaman takip edemeyeceği şekilde çözerler. Modele beslediğiniz veriler ve sağladığı çıktı arasındaki bağlantı dokunulmazsa - (kara kutu adı verilen gizli) - nasıl güvenilir olabilir? Araştırmacılar arasında, derin öğrenme araçlarının kararları nasıl aldıklarını açıklığa kavuşturmak için artan bir çağrı var - ve bu tür yorumlanabilirliğin neye ihtiyaç duyabileceği tartışma konusu. Hayatın sınırda olacağı sağlık alanında riskler özellikle yüksektir.

Derin öğrenme araçları ayrıca endişe verici sorular doğurur çünkü sorunları insanların her zaman takip edemeyeceği şekilde çözerler.
Artifical Intelligence

Yine de, potansiyel faydalar açıktır. Örneğin Mass General'in mamografi programında, mevcut derin öğrenme modeli, kanser için bir risk faktörü olan yoğun meme dokusunun tespit edilmesine yardımcı olmaktadır.

Ayrıca Massachusetts Institute of Technology'de çalışan bir bilgisayar bilimcisi olan Lehman ve Regina Barzilay, bir kadının beş yıl içinde meme kanseri gelişme riskini tahmin etmek için başka bir derin öğrenme modeli yarattı - bu da onun bakımını planlamanın çok önemli bir bileşeni.

Araştırmacılar, yaklaşık 40.000 kadından oluşan mamogramların 2019 retrospektif bir çalışmasında , derin öğrenme sisteminin, bu kadınların yaklaşık 4.000'i test setinde mevcut altın standart yaklaşımını büyük ölçüde geride bıraktığını tespit etti. Şimdi daha ileri testlerden geçiyor, yeni model hastanede rutin klinik uygulamaya girebilir.

İnsanların gerçekten derin öğrenme sistemlerini gerçekten anlayabilip anlayamayacağı tartışmasına gelince, Barzilay kampa mümkün olduğu kadar sıkıca oturuyor. Kara kutu sorununa “efsane” diyor.

Efsanenin bir kısmı, derin öğrenme sistemlerinin sonuçlarını açıklayamadığı yönünde olduğunu söylüyor. Ancak “Makine dilinde sonuçları yorumlamanıza izin veren birçok yöntem var” diyor. Efsanenin bir başka kısmı, onun görüşüne göre, doktorların sistemin kullanmak için kararını nasıl verdiğini anlamaları gerektiğidir. Ancak tıp, klinisyenlerin gerçekten anlamadığı şekilde çalışan ileri teknolojilerle doludur - örneğin, mamografi verilerini başlangıçta toplayan manyetik rezonans görüntüleme (MRG).

Bu, tüm hekimlerin endişelerine cevap vermiyor. Birçok makine öğrenme aracı hala “eşlik eden bir gerekçeye gerek olmadan karar veren” kara kutulardır, BMJ Klinik Araştırmaları'nda yayınlanan bir makalede bir grup doktor ve araştırmacı belirtilmiştir . Gazeteciler, “Birçok kişi, yeni bir teknoloji olarak ispat külfetinin tahminlerini hesaba katarak makine öğrenmesi üzerine olduğunu düşünüyor” diyor. “Doktorlar algoritmanın neden teşhis koyduğunu anlamıyorsa, neden hastalar önerilen tedavi sürecine güvenmelidir?”

Carnegie Mellon Üniversitesi'nden bilgisayar bilimci Zachary Lipton, “Makine öğrenimini inceleyen bilgisayar bilimcileri arasında“ bu yorumlanabilirlik tartışması tamamen raydan çıktı ”diyor. Genellikle, yorumlanabilirlik için sunulan modeller basitçe işe yaramıyor, diyor ve sistemlerin gerçekte ne sundukları konusunda bir karışıklık var.

“Sahada, krankı çevirebilecek ancak gerçekte ne yaptıklarını bilmeyen insanlar var” diye ekliyor, “ve aslında yaptıklarının temel dayanaklarını anlamıyor” dedi.

ARAÇLARI ÖĞRENME EEP sinir ağları kavramında yapı, ilk olarak insan beyninden esinlenerek ve beyin hücreleri gibi biraz hareket ve düğüm oluşur. Derin öğrenme modelleri, bu yapay nöronların birçok katmanını, geniş bir bağlantı ağı haline getiriyor. Modeller, insan zihninin izleyebileceği seviyenin ötesindeki seviyelerde verileri sarsmaktadır.

Artifical İntelligence
Modellerin nasıl çalıştığını anlamak bazı uygulamalarda diğerlerinden daha önemli. Amazon'un teyzenizin doğum günü hediyesi için mükemmel önerilerde bulunup bulunmadığı konusunda endişeler, örneğin, doktorunuzun tümörleri veya yaklaşmakta olan kalp krizlerini tespit etmek için kullandığı araçların güvenilirliği ile ilgili endişeler gibi değildir.

Bilgisayar bilimcileri, derin öğrenmeyi en az akranlarına göre daha az opak yapmak için birçok yaklaşım deniyor. Örneğin meme kanseri riski modeli, radyologların mamografi görüntüsünün alanlarını yakınlaştırmasına izin vererek, modelin bir tahmin yaparken dikkat ettiği bir sıcaklık haritası yaklaşımı kullanabilir. Model daha sonra gördüklerini açıklayan metin parçacıklarını çıkarabilir ve vurgulayabilir.

Derin öğrenme modelleri, bu hedeflenen alanlara benzer diğer bölgelerin görüntülerini de sunabilir ve insan uzmanları daha sonra makinenin seçeneklerini değerlendirebilir. Bir başka popüler teknik, derin öğrenme modelinin tüm veri setini nasıl kullandığını yaklaştırmak için verilerin alt kümelerine daha çabuk anlaşılabilir bir matematik uygular.

Barzilay, “Bu modellerin bakıma entegre edildiğinde hangi açıklamaların insanları ikna edebileceği hakkında daha fazla bilgi edineceğiz ve insan zihninin tahminlerini kontrol etmek ve doğrulamak için nasıl yardımcı olabileceğini görebiliriz” diyor.

Londra’da Moorfields Eye Hospital ve Google’ın ana şirketi olan Alphabet’in bir alt kuruluşu olan DeepMind’in bir ekibi de derinlemesine açıklamalar yapmayı istiyor. Hasta gözlerini taramak için derin öğrenme kullandılar. Sistem, üç boyutlu göz taramaları yapar, analiz eder ve acil sevk gerektiren vakaları seçer - ve insan uzmanlarından daha iyi ya da daha iyi çalışır. Model, her tanı için birkaç olası açıklama sunar ve derecelendirir ve hastanın gözünün parçalarını nasıl etiketlediğini gösterir.

Kliniğe derinlemesine öğrenme getirmede genel bir strateji olarak, “anahtar, en iyi sistemi oluşturmak, sonra davranışını analiz etmek” diyor, ”diyor Toronto'daki SickKids Araştırma Enstitüsü'nün genetiği ve genom biyolojisinde kıdemli bir bilim adamı olan Anna Goldenberg klinisyenler ile kalp durması tahmin edebilecek bir model oluşturmak için . “Bence ikisini de istiyoruz. Bence bu başarılabilir. ”

Kalp durması tahmin edebilecek bir model

Anna Goldenberg

Doktorlar sadece teorik doğrulukla ilgilenmiyorlar - sistemin gerçek dünyada çalıştığını bilmeleri gerekiyor.

Örneğin, doktorlar küçük bir tümörü veya yaklaşmakta olan kalp durmasının erken belirtilerini tespit etmeye çalışırken, “yanlış pozitifler çok sorunlu değil çünkü klinisyenler olayları geç tespit etmekten kaçınmaya çalışıyor” diyor Goldenberg. “Ama yanlış negatifler gerçekten büyük bir problem.” Yanlış pozitiflerin oranı çok yüksekse, ancak doktorlar sisteme hiç dikkat etmeyebilir.

Kaynak: UNDARK

Son Gönderiler