Teknoloji ile birlikte attığımız her adımda algoritmalarla çevriliyiz. İnternette gezmek gibi basit bir işlemden, finansal kararlarımıza kadar her adımda bu geçerli… Peki insanlar olarak algoritmaların bizim gerçekliğimizi nasıl şekillendireceğine karar verebilir miyiz?
Yeni bir araştırmaya göre, hayır.
İngiltere’deki Hull Üniversitesi Sistem Çalışmaları Merkezi’nden Prof. Dionysios Demetis, The Conversation için kaleme aldığı bir yazıda şunları söyledi:
“Keşfimiz, bilgi teknolojisi ve insanlar arasındaki ilişkideki rollerin zamanla değiştirdiğini bize gösterdi. Geçmişte insanlar teknolojiyi bir araç olarak kullandı. Şimdi ise teknoloji bizi kullandığı ve kontrol ettiği bir noktaya ulaştı.”
Demetis, yazısını geçtiğimiz yıl Virginia Commonwealth Üniversitesinen Prof. Allen Lee ile birlikte hazırladığı ve Journal of the Association for Information Systems dergisinde yayınlanan çalışmasına dayandırıyor. Dementis, algoritmalar üreterek makinelerin bizi hiçbir şekilde etkilemeyen kararlar vermesi yerine, “Tahmin edemeyeceğimiz kadar fazla şekilde algoritmalardan etkilendiğimizi” söylüyor.
Demetis aynı zamanda gittikçe artan bir şekilde kendi karar verme kapasitemizi kısıtladığımızı ve algoritmaların bizim adımıza karar vermesinde müsaade ettiğimizi söylüyor.
Algoritma nedir?
Algoritma, belirli bir amaca ulaşmak için tasarlanan yol olarak tanımlanabilir.
Matematikte ve bilgisayar biliminde bir işi yapmak için tanımlanan, bir başlangıç durumundan başladığında, açıkça belirlenmiş bir son durumunda sonlanan, sonlu işlemler kümesidir. Genellikle bilgisayar programlamada kullanılır ve tüm programlama dillerinin temeli algoritmaya dayanır.
Algoritmalar hayatın her alanına giriyor
Dementis buna örnek olarak avukatların yerine yapay zekanın kullanılmasını, insan kaynağı birimlerinin adayları elemek için 3. taraf programlarını kullanmasını gösteriyor.
Ayrıca, döviz piyasalarındaki ticaretin önemli bir çoğunluğu, insanlar tarafından değil saniyenin binde birinde karar veren algoritmalar tarafından gerçekleştiriliyor.
Karar verme işini tamamen bilgisayarlara mı bırakacağız?
Algoritmalara bu denli aşırı bağımlılığımız, Demetis’e göre piyasaların çökmesine neden olabilir. Burada programdaki bir hatadan ziyade, birbirini tahmin edilemeyen yollardan yenmeye çalışan milyonlarca algoritmik kararın interaksiyonundan kaynaklanan öğrenilmiş davranışların yol açabileceği bir kaostan söz ediliyor.
Demetis’e göre aslında burada ayak bağı olan insanlar. Ticaret sistemlerini yürüten insanlar, insan kararlarının piyasa verimliliği için bir engel olduğunu anladı.
Sonuçta, pes ederek karar verme süreçlerini tamamen bilgisayarlara bırakmak bizi sıkıcı bir geleceğe götürebilir. Demetis’e göre en kötü senaryo, “teknolojik hakimiyet”.
Ancak halen geç değil. Demetis, “Halen imkanımız varken, bunun bireyler ve toplum için ne anlama geldiğine karar vermeliyiz” diyerek sözlerini tamamladı.
Daha önce Avrupa Parlamentosu (AP) milletvekilleri, yapay zeka alanında AB’nin tüketiciler için adil ve güvenli bir kullanım sağlaması çağrısında bulunmuşlardı. Otomatik karar verme teknolojileri tarafından özellikle tıp, hukuk ve bankacılık sektörü gibi alanlarda verilen kararlar üzerindeki son yetkinin “insanda” olması gerektiğinin altı çizilmişti.
