Bir yapay zeka tekniği olan derin öğrenme, uygulama bazında yüksek işlem gücüne ihtiyaç duymaktadır. Bu eğitimimizde derin öğrenme uygulamalarının çalıştırılabildiği gömülü sistemler (FPGA ve GPU), örnek uygulamalar ve uygulama geliştirme süreci anlatılacaktır.
Gömülü sistemler nerde kullanılmaktadır?
Gömülü sistemler özellikle düşük güç harcayarak yüksek işlem gücü sağladığından drone, elektro-optik, robotik ve otonom sistemlerde yaygın bir şekilde kullanılmaktadır.
Eğitim İçeriği
Yapay zekanın gelişimi
Gömülü sistemlerdeki gelişmeler
NVIDIA Jetson TX1/TK1 ile donanım örnekleri
NVIDIA JetPack ve SDK kullanımı
Open Zeka API gömülü sistemlerde derin öğrenme uygulaması geliştirme
Eğitim kapsamında katılımcılar Jetson TX1 ve Jetson TK1 ürünlerini test edebileceklerdir.
Tarih: 20 Ağustos 2016
Saat: 10.00-12.00
Adres: Cyberpark Cyberplaza B-Blok Kat:5 Bilkent 06800 ANKARA
Derin öğrenmenin 2012 yılından bu yana hızla yaygınlaşması ve görüntü tespitindeki doğruluk oranının artmasında GPU mimarisinin kullanılması büyük bir rol oynamaktadır (GPU mimarileri CPU mimarilerine göre daha fazla çekirdek barındırdığından paralel işlem bakımından üstünlük barındırmaktır).
Derin öğrenme için GPU kullanmak zorunda mıyız? şeklinde bir soru aklınıza gelebilir. Bu soruyu doğru cevaplamak için son dönemde üzerinde çalışılan alternatif çözümlere de bakmamız gerekiyor.
Altera Startix 10
Bu yazıda özellikle konuyla ilgili çalışma yapmak isteyenler için çeşitli makaleler paylaşılmıştır. FPGA platformları (FPGA Nedir?) GPU platformları kadar hızlı olmasa da enerji tüketimi dikkate alındığında tercih sebebi olabiliyorlar. Microsoft Open Cloud Server yapısında enerji tüketiminin GPU’lara göre dha az olması nedeniyle FPGA kullanmakta. Derin öğrenmenin bir eğitim bir de uygulama safhası dikkate alındığında, eğitim safhasında FPGA kullanmak işleri çıkmaza sokabilir. İşte bu nedenle Facebook hergün sisteme yüklenen 600 milyon fotografla anlamlı veri elde etmek için GPU yapısı kullanmaktadır.
Verisetinizi eğittikten sonra elde ettiğiniz modelinizi kullanmak için FPGA kullanmayı düşünebilirsiniz. Yazının devamında Altera’nın geliştirdiği FPGA kartı üzerinde yaptığı demo videolarını görebilirsiniz. Demolardan anladığım gerçek zamanlı tanımada FPGA ufakta olsa geçikme yaşıyor.
Güç tüketimi bakımından FPGA uygulamada tercih sebebi olacaksa bir de uygulama yazımı konusunu değerlendirmek gerekiyor. FPGA platformlarına kod yazan uzman sayısının az olduğu, nispetende zorluklar barındırdığı gözardı edilmemelidir.
Peki, güç tüketimi konusu değerlendirildiğinde GPU tabanlı alternatif bir çözüm yok mu? NVIDIA Jetson TX1 düşük güç tüketimi yanında sağlamış olduğu altyapı desteği sayesinde geliştiriciler için alışmış oldukları ortamı bırakmadan GPU mimarisinin sağlamış olduğu tüm olanakları gömülü donanım hızlandırmalı olarak kullanma imkanı sunuyor.
GPU dışındaki diğer yapılar:
Google, makine öğrenmesi ve TensorFlow için Tensor Processing Unit (TPU) yapısına sahip. Söz konusu işlemci Google’ın birçok ürününde hizmet vermeye başladı. Bu mimari özellikle düşük enerji tüketimi bakımından GPU’lara göre daha uygun gözüküyor.
Tensor Processing Unit board
IBM TrueNorth işlemcisi DARPA SyNAPSE Programı desteği ile geliştirilen ve 70 miliwatt enerji harcayarak saniyede 46 milyar sinaptik işlem yapabilen avuç içi süper bilgisayardır. Kıyaslama açısından bakarsak insan beyni 100 trilyon işlem için 20W harcarken varsayıma dayalı bir bilgisayarın bu kadar işlemi yapabilmesi için 12GW’a ihtiyaç duyulmaktadır. Daha fazla bilgi için http://www.research.ibm.com/articles/brain-chip.shtml adresine bakabilirsiniz.
TrueNorth Chip Core Array
Intel Altera FPGA‘yi bünyesine kattıktan sonra Altera derin öğrenme kullanımına yönelik çalışmalarına hız verdi. Aşağıdaki videolardan ve kaynaklardan detaylara ulaşabilirsiniz.
Convolution Neural Network CNN Implementation on Altera FPGA using OpenCL
FPGAs vs. GPGPUs
Machine Learning on FPGAs: Neural Networks
Object Detection and Recognition with Neural Networks
ALTERA ile obje tespiti ve tanıma yapılabiliyorsada gerçek zamanlı işlem geçikmesi sorun teşkil edebilir.
FPGA ile derin öğrenme kullanımına yönelik makaleler:
