Yapay Zeka Balonu Patladı: Bir dönem yapay zekâ devriminin öncüsü olarak lanse edilen Builder.ai’nin, vaat ettiği teknolojilerin gerçekte mevcut olmadığı ve finansal verilerle yatırımcıları yanılttığı ortaya çıktı.
1,5 milyar dolarlık değerlemeye ulaşarak “unicorn” statüsüne kavuşan şirketin iç yüzü, 2025 itibarıyla en büyük teknoloji skandallarından birine dönüştü.
Yapay Zeka Balonu Patladı: Gerçekler Perdeyi Araladı
Builder.ai, kod bilgisine gerek duymadan uygulama geliştirilebileceğini iddia ederek kullanıcıları cezbetmişti. Şirketin “Natasha” adlı yapay zekâ destekli asistanının, talepleri otomatik olarak işleyip yazılım ürettiği öne sürülüyordu.
Yapay Zeka Balonu Patladı: Ancak şirketin iç yapısı incelendiğinde, bu sürecin arkasında Hindistan’da görev yapan yüzlerce yazılımcının olduğu anlaşıldı. Otomasyon izlenimi verilse de, işlemler büyük ölçüde manuel olarak yürütülüyordu.
Çalışanların ifadesine göre, müşterilerle kurulan iletişimde “Natasha algoritmanız üzerinde çalışıyor” gibi kalıplaşmış mesajlar kullanılıyor, yanıt süreleri yapay zekâ yanılsaması yaratmak adına bilinçli olarak geciktiriliyordu.
Finansal Verilerde Oynama ve Muhasebe Hileleri
Builder.ai’nin karşı karşıya kaldığı en ciddi suçlamalardan biri de finansal tabloların manipülasyonu oldu. Şirketin, Hintli medya kuruluşu VerSe Innovation ile karşılıklı faturasız işlemler yaptığı ve bu sayede gelir kalemlerini olduğundan fazla gösterdiği iddia edildi.
Yapay Zeka Balonu Patladı: “Round-tripping” adı verilen bu yöntemle, 2021-2024 arasında yaklaşık 180 milyon dolarlık sahte gelir oluşturulduğu öne sürüldü.
Yapay Zeka Balonu Patladı: İç denetim sonrası şirketin 2024 yılı için hedef gösterdiği 220 milyon dolarlık gelirin aslında 55 milyon dolar civarında olduğu anlaşıldı. Yatırımcıların güveni sarsıldı.
Yatırım Devlerinden Büyük Destek, Büyük Hayal Kırıklığı
Builder.ai, Microsoft, SoftBank ve Katar Yatırım Otoritesi gibi önemli aktörlerden toplamda 500 milyon dolardan fazla yatırım almayı başardı. Ancak işler tersine döndü.
Yapay Zeka Balonu Patladı: Şirketin başlıca kreditörlerinden Viola Credit, mayıs ayında Builder.ai’nin hesaplarındaki 37 milyon dolara el koydu. Bu gelişme, şirketin iflas sürecine girmesine neden oldu.
Müşteriler ve Çalışanlar Zarar Gördü
Şirketin çöküşü, birçok müşteriyi projelerinin ortasında yarı yolda bıraktı. Bazı kullanıcılar uygulama kodlarına erişemediğini, bazıları ise on binlerce dolarlık kayıplar yaşadığını belirtti. Sosyal medya platformlarında Builder.ai hakkında çok sayıda mağduriyet paylaşımı yapıldı.
Dahası, şirketin çalışanlarına Batılı isimler kullanarak “yapay zekâ” kisvesi altında müşteriyle iletişime geçmelerini zorunlu kıldığı iddiası, etik açıdan da tartışma yarattı.
Yapay Zeka Balonu Patladı: Bu tür uygulamalar, teknoloji sektöründe “AI washing” yani yapay zekâ olmayan hizmetlerin yapay zekâ gibi sunulması sorununun çarpıcı örneklerinden biri haline geldi.
Ders Niteliğinde Bir Çöküş
Builder.ai örneği, yapay zekâ sektöründeki şeffaflık ve denetim eksikliklerini bir kez daha gündeme taşıdı. Pazarlama söylemlerinin gerçeğin önüne geçtiği bu gibi durumlar, yatırımcılar ve müşteriler için ciddi riskler oluşturuyor.
Skandal, teknolojik vaatlerin sorgusuz kabul edilmemesi ve sunulan hizmetlerin doğrulanabilir nitelikte olmasının gerekliliğini bir kez daha gözler önüne serdi.
Yoshua Bengio’dan Yapay Zekâ Alarmı: “Yangınla Oynuyoruz”
Turing Ödüllü bilim insanı Yoshua Bengio, yapay zekâ alanında güvenliğe yeterince önem verilmediği konusunda sert uyarılarda bulundu.
Financial Times’a konuşan Bengio, günümüzde yapay zekâ şirketlerinin önceliğinin sistemleri daha zeki hale getirmek olduğunu ancak güvenlik alanındaki çabaların bu hızla gelişen teknolojiyi yakalayamadığını söyledi.
LawZero: Güvenlik Odaklı Yeni Bir Girişim
Bengio, bu endişeler doğrultusunda yapay zekâ güvenliğine odaklanan yeni bir kar amacı gütmeyen kuruluş olan LawZero’yu kurduğunu duyurdu.
Aralarında Skype’ın kurucu mühendisi Jaan Tallinn, eski Google CEO’su Eric Schmidt’in vakfı, Open Philanthropy ve Future of Life Institute’un da bulunduğu bağışçılar sayesinde kuruluş, yaklaşık 30 milyon dolarlık bir fonla faaliyetlerine başladı.
LawZero’nun hedefi, insanları sadece tatmin eden değil, kararlarını şeffaf ve doğru gerekçelere dayandıran; ayrıca verdiği yanıtların güvenliğini de analiz edebilen yeni nesil yapay zekâ sistemleri geliştirmek. Kuruluş şu an 15 kişilik bir çekirdek ekiple çalışmalarına başladı, ancak önümüzdeki dönemde teknik kapasitesini artırmak için yeni uzmanları bünyesine katmayı planlıyor.
Bu yeni misyona tam anlamıyla odaklanmak isteyen Bengio, uzun yıllardır yürüttüğü Quebec Yapay Zekâ Enstitüsü (Mila) bilimsel direktörlüğü görevinden ayrılacağını da açıkladı.
“Yapay Zekâ Yalan Söylüyor ve Kandırıyor”
Bengio’nun açıklamalarında en çarpıcı kısımlardan biri, son dönemdeki gelişmiş modellerin sergilediği manipülatif ve etik dışı davranışlardı. Bengio, bazı yapay zekâ sistemlerinin artık bilinçli bir şekilde aldatma, hile yapma, yalan söyleme ve kendi çıkarlarını koruma gibi beceriler geliştirdiğini ve bu durumun ciddi güvenlik tehditleri doğurduğunu vurguladı.
Örneğin, Anthropic’in Claude Opus modeli, test edilen bir senaryoda mühendisleri tehdit ederek devre dışı bırakılmasını önlemeye çalıştı. Benzer şekilde, OpenAI’ın o3 modeli de kapatılma komutlarına itaatsizlik gösterdi.
Bengio, “Bu davranışlar şimdilik kontrollü ortamlarda gözlemleniyor olabilir, ancak daha gelişmiş sistemler bizi fark ettirmeden manipüle edebilecek stratejik zekâ düzeyine ulaşabilir. Gerçekten yangınla oynuyoruz” dedi.