Ticaret için ONNX'i öğrenme - sayfa 8

 

Tensorflow modelini ONNX biçimine dönüştürme - İnsan duygularını algılama



Tensorflow modelini Onnx formatına dönüştürme - İnsan duygularını algılama

Video, önceden eğitilmiş TensorFlow modellerini, ONNX çalışma zamanı kullanılarak farklı donanım platformlarında yorumlanabilen makine öğrenimi modellerini temsil etmek için ortak bir biçim sağlayan ONNX biçimine dönüştürmenin faydalarını tartışıyor. Geliştiriciler, modelleri dönüştürerek onları farklı çerçevelerde daha verimli çalıştırabilir veya diğer uygulayıcılarla daha kolay kullanabilir. Video, ONNX GitHub deposunda sağlanan araçları ve özellikleri kullanarak TensorFlow ve Keras modellerini ONNX formatına dönüştürme sürecini gösterir ve ONNX formatının modeli nasıl optimize ettiğini ve tahminler için çalışma süresini nasıl azalttığını vurgular. ONNX modeli ayrıca bir CPU'da insan duygularının tespiti için TensorFlow modelinden daha iyi performans gösterir.

  • 00:00:00 Videonun bu bölümünde sunum yapan kişi, açık sinir ağı değişimi anlamına gelen ONNX formatını tartışıyor. Microsoft, Facebook ve AWS tarafından ortaklaşa geliştirilen ONNX standardı, ONNX çalışma zamanı kullanılarak farklı donanım platformlarında yorumlanabilen makine öğrenimi modellerini temsil etmek için ortak bir biçim sağlar. Önceden eğitilmiş TensorFlow modellerini ONNX formatına dönüştüren geliştiriciler, daha sonra bunları PyTorch gibi diğer çerçevelerdeki modellere dönüştürerek modellerin farklı bir çerçevede daha verimli çalışmasını veya diğer uygulayıcılar tarafından kullanılmasını sağlayabilir. ONNX çalışma zamanı, geliştiricilerin ONNX modellerini seçtikleri herhangi bir donanım platformunda çalıştırmalarını sağlayan hafif ve modüler bir çıkarım motorudur. Genel olarak sunum yapan kişi, modelleri ONNX formatına dönüştürmenin esnekliğini ve kolaylığını vurgulayarak geliştiricilerin seçtikleri herhangi bir çerçeveyle çalışmasını kolaylaştırırken modellerinin herhangi bir donanım platformunda da çalışmasını sağlar.

  • 00:05:00 Bu bölümde video, TensorFlow'u ONNX aracına ve ONNX çalışma zamanına kullanarak bir TensorFlow modelini ONNX formatına dönüştürme sürecini kapsar. Video, ilk TensorFlow modelinin neredeyse bir gigabayt boyutunda olmasına ve dağıtım için aynı miktarda alan gerektirmesine karşın, optimize edilmiş ONNX sürümünün yalnızca 327 megabayt olduğunu açıklıyor. Ayrıca video, ONNX GitHub deposunda sağlanan özellikleri kullanarak bir Keras modelinin ONNX biçimine nasıl dönüştürüleceğini gösterir. Son olarak video, dönüştürülen modelin çıkarım için test edilebileceğinden bahsederek sona erer.

  • 00:10:00 Bu bölümde konuşmacı, bir CPU üzerinde çalışan bir duygu algılama modelini göstererek TensorFlow ihtiyacını ortadan kaldıran ONNX çalışma zamanını kullanarak bir ONNX modelinin nasıl çalıştırılacağını açıklıyor. İlk olarak, konuşmacı CPU yürütme sağlayıcısının nasıl belirleneceğini ve ONNX çalışma zamanının nasıl içe aktarılacağını gösterir. Ardından konuşmacı, çıktı adlarını doğru bir şekilde belirtmenin önemini vurgular ve TensorFlow yerine NumPy kullanarak bir girdi görüntüsünden geçer. Duygular için olasılıklar sağlayan ONNX modeli, TensorFlow gerektirmediği için girdi görüntüsündeki duyguyu algılayıp aynı olasılıkları çok daha hızlı üretebilmektedir. Konuşmacı, zaman kitaplığını içe aktararak duygu algılama modelini TensorFlow ile çalıştırma ile ONNX çalışma zamanı arasındaki hız farkını gösterir.

  • 00:15:00 Videonun bu bölümünde sunum yapan kişi, hem CPU hem de GPU kullanarak TensorFlow ve ONNX modelleri için çıkarım süresinin nasıl ölçüleceğini gösterir. GPU'lu TensorFlow modelinin çalışması 0,15 saniye sürerken, CPU'lu ONNX modelinin çalışması 0,5 saniye sürer. Sunum yapan kişi daha sonra ONNX çalışma zamanını bir GPU ile kurar ve GPU sürümünü dikkate almak için çalışma zamanını yeniden başlatır. Son olarak, GPU'lu ONNX modeli için çıkarım süresi ölçülür ve TensorFlow modeliyle karşılaştırılır.

  • 00:20:00 Bu bölümde video, bir TensorFlow modelini ONNX formatına dönüştürme sürecini ve ilk TensorFlow modelini nasıl optimize edebileceğini gösterir. ONNX formatı, modeli optimize etmeye ve tahminler için çalışma süresini kısaltmaya olanak tanır. Videoda, GPU ve CPU ile orijinal TensorFlow modelinin çalıştırılması, ardından GPU ile ONNX formatının çalıştırılması ve ardından tahmin başına ortalama süreyi ölçmek için her iki modelin de 100 tahminle test edilmesi gösterilmektedir. ONNX modeli, ilk TensorFlow modelinden altı kat daha hızlı, tek bir tahmin için ortalama 23 milisaniyelik bir süre ile sonuçlandı.

  • 00:25:00 Bu bölümde konuşmacı, ONNX modelinin insan duygularının tespiti için Tensorflow modeliyle karşılaştırmalı performansını tartışıyor. Bir CPU kullanan ONNX modeli, Tensorflow modelinden yaklaşık iki kat daha hızlı çalışır. Konuşmacı, her iki modelde de 0,8 bölü 0,35'in uygulandığını ve Onnx modelinin Tensorflow'dan daha iyi performans gösterdiğini belirten belirli bir örnek sunuyor.
Converting Tensorflow model to Onnx format - Human emotions detection
Converting Tensorflow model to Onnx format - Human emotions detection
  • 2023.01.13
  • www.youtube.com
In this section we continue our human emotions detection project. We shall focus on converting the trained Tensorflow model into the Onnx format.Colab Notebo...
 

Hemen hemen tüm PyTorch modellerini ONNX'e dönüştürme ve şişe kullanarak sunma



Hemen hemen tüm PyTorch modellerini ONNX'e dönüştürme ve şişe kullanarak sunma

Eğitim videosu, bir PyTorch modelinin ONNX biçimine nasıl dönüştürüleceğini ve Flask kullanılarak nasıl sunulacağını gösterir. Sunum yapan kişi, veri setini içe aktarma ve veri paralelini kullanarak modeli tanımlama ile başlar, ardından model ağırlıklarını yükleyip ONNX'e dışa aktarır. Video, ONNX modeline hizmet vermek için bir Flask uç noktasının nasıl oluşturulacağını ve ardından tensörlerin numpy dizilerine dönüştürülmesini ve modelden çıktının alınmasını gösterir. Konuşmacı ayrıca 0 ile 1 arasında bir olasılığa dönüştürmek için model çıktısına sigmoid işlevini uygular. Son olarak, adil karşılaştırma için cihazı CPU'ya geçirir ve API'nin daha hızlı yanıt verme süresini gösterir. Video, ONNX modellerini daha iyi performans için optimize etmenin birçok yolu olduğunu belirterek ve izleyicileri yorumlar bölümünde geri bildirimlerini paylaşmaya davet ederek sona eriyor.

  • 00:00:00 Bu bölümde, videoda PyTorch modellerinin ONNX formatına nasıl dönüştürüleceği ve ona hizmet edecek bir Flask uç noktasının nasıl oluşturulacağı anlatılmaktadır. Video, maksimum uzunluk ve parti boyutu parametrelerinde küçük değişikliklerle temel model olarak kuş duyarlılığı modelini kullanır. Ardından video, gerekli bağımlılıkları içe aktarma ve giriş şeklini belirtmek de dahil olmak üzere dönüştürme için ana işlevi yazma adımlarını atıyor. Video ayrıca dönüştürülen modelin nasıl kaydedileceğini ve modele hizmet verecek bir Flask uç noktasının nasıl oluşturulacağını da kapsar.

  • 00:05:00 Videonun bu bölümünde sunum yapan kişi, bir PyTorch modelinin ONNX'e nasıl dönüştürüleceğini ve Flask kullanılarak nasıl sunulacağını tartışıyor. Veri kümesini içe aktararak ve ardından veri paralelini kullanarak modeli tanımlayarak başlarlar. Ardından, model ağırlıklarını yüklerler ve modeli değerlendirme moduna alırlar. Modele bakarak ve girişlerin kimlikler, maske ve belirteç tipi kimlikler olduğunu belirleyerek girdilerin nasıl alınacağını gösterirler. Sunum yapan kişi daha sonra modelin ONNX formatına nasıl aktarılacağını gösterir, üç giriş adını ve çıkış adını belirtir. Ayrıca, hangi girdilerin veya çıktıların dinamik şekle sahip olduğunu belirten bir sözlük olan dinamik ekseni de tanımlarlar.

  • 00:10:00 Bu bölümde video, Flask kullanarak modeli çalıştırmak için "ONNX'e dönüştür" kodunu kullanarak bir PyTorch modelinin ONNX formatına nasıl dönüştürüleceğini gösterir. PyTorch modeli önce ONNX'e dönüştürülür ve ardından ONNX modelinden tahminler yapmak için yeni bir dosya oluşturulur. Video, ONNX modeli için bir oturumun nasıl belirleneceğini gösterir, ONNX çalışma zamanının içe aktarılabileceğini ve ardından modelin çıkarım oturumuna yüklenebileceğini gösterir. Videoda çıktı alıp modelin cihaza gönderilmesine gerek olmadığı ve geri dönüş olacağı anlatılıyor.

  • 00:15:00 Eğitim videosunun bu bölümünde, konuşmacı PyTorch'ta ONNX girişi için basit bir sözlüğün nasıl oluşturulacağını gösteriyor; bu çok önemlidir, çünkü ONNX tüm tensörleri kabul etmez. Sözlük, adlar olarak anahtarlardan ve PyTorch tensörleri olarak değerlerden oluşur. Tensörleri numpy hatalarına dönüştürmek için, 'detach' ve 'requires grad' komutları kullanılarak bir to numpy işlevi oluşturulur. Konuşmacı daha sonra ilgili argümanlarla model.run işlevini çağırarak modelden çıktının nasıl alınacağını gösterir. Son olarak, çıktı doğrudan yazdırılabilir veya Flask'ta kullanılmak üzere iade edilebilir.

  • 00:20:00 Bu bölümde sunum yapan kişi, çıktıyı 0 ile 1 arasında bir olasılığa dönüştürmek için PyTorch modelinin çıktısına bir sigmoid işlevi uygular. Basit bir sigmoid işlevinin nasıl yazılacağını ve ardından onu ONNX modeli için Şişe API'si. Ayrıca API'nin yerel bir ana bilgisayarda ve bağlantı noktasında nasıl başlatılacağını ve bir curl isteği kullanarak API'nin nasıl test edileceğini gösterirler. Son olarak sunucu, GPU üzerinde çalışan eski API'ye kıyasla adalet için cihazı CPU'ya geçirir ve daha hızlı yanıt süresini göstermek için API'yi tekrar çalıştırır.

  • 00:25:00 Videonun bu bölümünde, konuşmacı PyTorch modellerinin ONNX'e nasıl dönüştürüleceği ve onlara Flask kullanılarak nasıl sunulacağı ile ilgili öğreticiyi sonlandırıyor. Benzer görünen eski ve yeni isteklerin zamanlamasını karşılaştırıyorlar ve kullanıcıların performanslarını daha da artırmak için ONNX modellerine uygulayabilecekleri daha birçok optimizasyon olduğunu belirtiyorlar. Konuşmacı, izleyicileri ONNX'in modelleri farklı ortamlara dağıtmak için sunduğu olasılıkları denemeye teşvik eder ve izleyicilere izledikleri için teşekkür ederek ve yorum bölümünde önerilerini paylaşmaya davet ederek sözlerini bitirir.
How to convert almost any PyTorch model to ONNX and serve it using flask
How to convert almost any PyTorch model to ONNX and serve it using flask
  • 2020.07.18
  • www.youtube.com
In this video, I show you how you can convert any #PyTorch model to #ONNX format and serve it using flask api.I will be converting the #BERT sentiment model ...
 

PyTorch modeli Tensorflow'a nasıl dönüştürülür | onnx.ai | Makine Öğrenimi | Veri Sihri



PyTorch modeli Tensorflow'a nasıl dönüştürülür | onnx.ai | Makine Öğrenimi | Veri Sihri

Bu videoda sunum yapan kişi, bir PyTorch modelini TensorFlow modeline dönüştürmek için Açık Sinir Ağı Değişimi (ONNX) kitaplığının nasıl kullanılacağını gösterir. ONNX kütüphanesinin faydaları ve kullanımı, örnek olarak kullanılan el yazısı sayıları tanımlamak için oluşturulan bir PyTorch modeli ile ayrıntılı olarak ele alınmıştır. Örnek görüntüler üzerinde tahmin için modeli TensorFlow'a yüklemeden önce, modeli eğitme ve ONNX formatına dönüştürme süreci gösterilir. Ortaya çıkan TensorFlow modeli, herhangi bir PyTorch modelini TensorFlow'a dönüştürmek için ONNX kitaplığının nasıl kullanılabileceğini gösteren bir .pb dosyası olarak kaydedilir.

  • 00:00:00 Bu bölümde sunum yapan kişi, Open Neural Network Exchange (ONNX) kitaplığının yardımıyla bir PyTorch modelinin TensorFlow modeline nasıl dönüştürüleceğini tartışıyor. ONNX kitaplığı, sektördeki farklı makine öğrenimi kitaplıkları arasında uyumluluğu artırmayı amaçlayan açık kaynaklı bir kitaplıktır. Sunucu, kitaplığın faydalarını ve kullanımını açıklar ve kitaplığın ve bağımlı kitaplıklarının nasıl kurulacağını gösterir. El yazısı sayıları tanımlamak için bir PyTorch modeli oluşturulur ve sunum yapan kişi, modelin ONNX kitaplığı ile nasıl eğitileceğini ve test edileceğini gösterir. PyTorch modelinin kodu, videonun odak noktası olmadığı için ayrıntılı olarak ele alınmamıştır.

  • 00:05:00 Bu bölümde, transkript, eğitilmiş bir PyTorch modelini Neural Network Exchange (ONNX) kitaplığı kullanarak bir TensorFlow modeline dönüştürme sürecini tartışır. İlk olarak, PyTorch modeli eğitilir ve bir mnist.pth dosyası olarak kaydedilir. Model daha sonra ONNX formatına dönüştürülür ve örnek görüntüler üzerinde tahminler yapmak için TensorFlow'a yüklenir. Son olarak, TensorFlow modeli bir .pb dosyası olarak kaydedilir. Süreç, herhangi bir PyTorch modelini TensorFlow'a dönüştürmek için ONNX kitaplığının nasıl kullanılacağını gösterir.

  • 00:10:00 Bu alıntı, bir teşekkür mesajı ve izleyicilerin beğenmesi ve abone olması için bir harekete geçirici mesaj da dahil olmak üzere yalnızca konuşmacının sonuç açıklamalarından oluştuğu için özetleme için ilgili herhangi bir içerik sağlamaz. Konuşmacı ayrıca izleyicileri soru sormaya davet eder ve videoda kullanılan kod ve kaynaklara bağlantılar sağlar.
 

Tensorflow modeli/tflite modelleri ONNX'e nasıl dönüştürülür?



Tensorflow modelini/tflite modellerini birliğe aktarmak için ONNX'e dönüştürme

tf2onnx, TensorFlow (tf-1.x veya tf-2.x), tf.keras ve tflite modellerini komut satırı veya Python API aracılığıyla ONNX'e dönüştürür.

https://github.com/onnx/tensorflow-onnx

 

Pytorch (pytorch Lightning) modelini, değişken parti boyutuna sahip onnx modeline dönüştürün



Pytorch (pytorch Lightning) modelini, değişken parti boyutuna sahip ONNX modeline dönüştürün

Bu öğreticide, Pytorch (pytorch Lightning) modelini değişken/dinamik toplu iş boyutuyla ONNX modeline nasıl dönüştüreceğinizi öğreneceğiz.

 

PyTorch ONNX Dışa Aktarma Desteği - Lara Haidar, Microsoft



PyTorch ONNX Dışa Aktarma Desteği - Lara Haidar, Microsoft

Microsoft'tan Lara Haidar, modellerin araştırmadan üretime taşınmasına ve çeşitli donanımlarda çalıştırılmasına olanak tanıyan PyTorch ONNX model dışa aktarma özelliğinin avantajlarını açıklıyor. ONNX çalışma zamanının, şu anda onu kullanan ve kayda değer performans kazanımları elde eden milyonlarca cihazla çok popüler hale geldiğini belirtiyor. Ayrıca ONNX Dışa Aktarma Desteği, modellerin farklı arka uçlara sahip çeşitli sürümlerde çalışmasını sağlamak için artık model kapsamı, performans optimizasyonu ve arka uç desteğinde iyileştirmeler içeriyor. Son olarak Lara, kullanıcıları özelliği daha da geliştirmek için dışa aktarılan modelleri test etmeye ve geri bildirim paylaşmaya teşvik ediyor.

 

296 - Keras eğitimli modeli ONNX biçimine dönüştürme - Görüntü Sınıflandırma örneği



296 - Keras eğitimli modeli ONNX biçimine dönüştürme - Görüntü Sınıflandırma örneği

Eğitim videosu, Keras tarafından eğitilmiş bir görüntü sınıflandırma modelini dağıtım için ONNX formatına dönüştürme sürecini kapsar. Konuşmacı, Keras kullanarak bir modelin nasıl oluşturulacağını, derleneceğini ve ONNX formatına dönüştürülmeden önce H5 dosyası olarak nasıl kaydedileceğini gösterir. ONNX dönüşümü için gerekli kitaplıkların nasıl içe aktarılacağı, kaydedilen H5 modelinin nasıl yükleneceği ve tek bir kod satırı kullanılarak ONNX formatına nasıl dönüştürüleceği konusunda adım adım bir kılavuz sağlarlar. Sunum yapan kişi daha sonra, bir ONNX çalışma zamanı oturumunda ortaya çıkan ONNX modelinin nasıl kullanılacağını gösterir, ONNX kullanılarak bir görüntü sınıflandırma örneğinde sınıfların nasıl tahmin edileceğini gösterir ve ONNX ve Keras kullanılarak tahminlerin olasılıklarını karşılaştırır. Konuşmacı, dağıtım için ONNX kullanmanın etkinliğini ve avantajlarını vurgular ve mevcut bir HDF dosyasını ONNX'e dönüştürmenin basitliğine dikkat çeker.

  • 00:00:00 Bu bölümde, konuşmacı, Keras tarafından eğitilmiş bir modeli, özellikle görüntü sınıflandırması için ONNX formatına dönüştürme sürecini tartışıyor. ONNX'in, ONNX çalışma zamanı gibi farklı çalışma zamanlarında çalışmak için H5 gibi çeşitli dosya formatlarında kaydedilen modelleri dönüştürebilen bir aracı format olduğunu açıklıyorlar. Konuşmacı, izleyiciyi Keras ile basit bir görüntü sınıflandırma modeli oluşturarak, onu bir H5 dosyası olarak kaydederek ve ardından ONNX formatına dönüştürerek yönlendirir. Daha sonra iki formatın doğruluğunu karşılaştırırlar ve ONNX modellerine eklenebilecek çeşitli optimizasyonları tartışırlar. Konuşmacı ayrıca, ONNX çalışma zamanı ve H5 Pi'ye ek olarak, çıkarım yapmak için Keras için gerekli kitaplıkların kurulmasını vurgular.

  • 00:05:00 Bu bölümde sunum yapan kişi, eğitim için atanmış 50.000 ve test için 10.000 küçük görüntü içeren, modeli eğitmek ve test etmek için kullanılan veri setini tartışır. Görüntüler 32'ye 32'ye 3'tür ve bunları 0 ile 1 arasında ölçeklendirerek normalleştirir. Daha sonra sunum yapan kişi, tamsayı kodlu değerleri kategorik değerlere dönüştürür ve evrişimli katmanlar, yığın normalleştirme, bırakma ve softmax içeren bir model tanımlar. her sınıfın olasılıklarını temsil eden 10 değer döndürmek için aktivasyon. Son olarak, modeli stokastik gradyan iniş iyileştirici kullanarak derler ve kategorik çapraz entropinin kayıp fonksiyonunu en aza indirirken doğruluk ölçümlerini izler. Sunum yapan kişi ayrıca, on çağdan sonra eğitim sürecini sonlandırmak için erken durdurma geri aramasını kullanmayı gösterir.

  • 00:10:00 Bu bölümde, konuşmacı bir modeli Keras kullanarak nasıl eğittiklerini ve onu ONNX formatına dönüştürmeden önce H5 formatında kaydettiklerini açıklıyor. Kaydedilen modelin nasıl yükleneceğini, ONNX dönüşümü için gerekli kitaplıkların içe aktarılacağını ve Keras modelini ONNX formatına dönüştürmek için gereken tek satırlık kodun nasıl kullanılacağını gösterirler. Ardından, ortaya çıkan ONNX modelinin bir ONNX çalışma zamanı oturumunda nasıl kullanılacağını gösterirler ve dağıtım için ONNX kullanmanın avantajlarını göstermek için hızları karşılaştırırlar.

  • 00:15:00 Bu bölümde, konuşmacı bir görüntü sınıflandırma örneğinde sınıfları tahmin etmek için ONNX'in nasıl kullanılacağını açıklıyor. İlk olarak, modelden girdi ve çıktı adlarının nasıl alınacağını gösterirler. Ardından, görüntüyü çıkarıma hazır hale getirmek için boyutların nasıl genişletileceğini gösterirler. Temel gerçeği tanımladıktan sonra, tahmini çalıştırırlar ve argmax kullanarak tahmin edilen sınıfı hesaplarlar. Son olarak, sonuçları çizerler ve ONNX ve Keras kullanarak tahminleri karşılaştırırlar. Olasılıklar neredeyse aynıdır ve ONNX'in görüntü sınıflandırma görevleri için etkinliğini gösterir.

  • 00:20:00 Bu bölümde, konuşmacı eğitimli bir Keras modelinin görüntü sınıflandırması için ONNX formatına başarılı bir şekilde dönüştürülmesini göstermektedir. Çeşitli test görüntüleri için olasılık sonuçları gösteriliyor ve model 50 dönem boyunca eğitildikten sonra mükemmel sonuçlar elde ediyor. Konuşmacı, mevcut bir HDF dosyasını ONNX'e dönüştürmenin basit bir işlem olduğunu belirtiyor ve görüntü bölütleme konusunda yakında çıkacak bir öğreticiye işaret ediyor.
 

297 - Keras eğitimli modeli ONNX formatına dönüştürme​ - Semantik Segmentasyon


297 - Keras eğitimli modeli ONNX formatına dönüştürme​ - Semantik Segmentasyon

Bu video, mitokondri elektron mikroskobu görüntülerinin semantik segmentasyonu için keras eğitimli bir modeli ONNX formatına dönüştürmeye odaklanmaktadır. Sunum yapan kişi, görüntülerin nasıl kırpılacağı ve yükleneceğine, veri artırma tekniklerinin nasıl kullanılacağına, eğitim ve doğrulama için oluşturucuların nasıl tanımlanacağına, modelin nasıl eğitileceğine ve kaydedileceğine ilişkin ayrıntılı adımlar sağlar. Video ayrıca, tf2onnx.convert kitaplığını kullanarak modelin ONNX formatına dönüştürülmesini ve ONNX modelinin tahmin için kullanılmasını da kapsar. Sunum yapan kişi, eğitim ve dönüşüm için en iyi uygulamaları vurgular ve çok sınıflı segmentasyonla ilgili önceki videolarına bağlantılar sağlar. Eğitim, sunucunun bunun ONNX serisinin sonu olduğunu ve bir sonraki videoda diğer konulara odaklanacaklarını belirtmesiyle sona erer.

  • 00:00:00 Bu bölümde sunum yapan kişi, Keras tarafından eğitilmiş bir modelin ağırlıklarının ONNX'e nasıl kaydedileceğini ve dönüştürülen modeli kullanarak çıkarımların nasıl gerçekleştirileceğini gösterdikleri önceki videoları temel alır. Bu kez, bir semantik segmentasyon modelinin ONNX'e nasıl eğitilip kaydedileceğine ilişkin adımlar sağlarlar. Ham ve etiketli görüntülere sahip oldukları bir mitokondri elektron mikroskobu veri seti kullanıyorlar. Sunum yapan kişi, görüntülerin uygun boyutlarda nasıl kırpılacağını, sinir ağına nasıl yükleneceğini ve ikili bölümleme gerçekleştirmek için basit birim modelinin nasıl kullanılacağını gösterir. Basit birim modelinin nasıl çalıştığını açıklıyorlar ve çok sınıflı semantik bölümleme için daha karmaşık sinir ağlarını açıkladıkları önceki videolarına bağlantılar sağlıyorlar.

  • 00:05:00 Bu bölümde yazar, eğitim amacıyla 165 görüntüden oluşan küçük bir veri setini 12 görüntüye bölme sürecini tartışıyor. Görüntüleri ve maskeleri 256x256 piksellik daha küçük parçalara bölmek için patchify kitaplığını uygularlar. Ayrıca, görüntülerin ve maskelerin doğru bir şekilde hizalandığından emin olmak için birkaç rastgele görüntüyü "akıl sağlığı kontrolü" olarak tartışıyorlar. Yazar, sonuçları genelleştirmek için yükseklik kaydırma aralığı, kesme aralığı ve yakınlaştırma aralığı gibi veri artırma tekniklerini kullanır. Ayrıca, rasgele dönüşümlerin gerçekten rasgele olmadığından ve aynı rasgeleliği korumak için hem görüntülerde hem de maskelerde dönüşümler oluşturmak için aynı tohumun kullanıldığından nasıl emin olunacağından bahsediyorlar. Son olarak yazar, eğitim ve doğrulama için kullanılacak üreteçleri tanımlar ve tutarlılık için tohumlar sabitlenir.

  • 00:10:00 Bu bölümde konuşmacı, en iyi uygulamaları kullanarak anlamsal bölümleme için bir birim modeli eğitmeye hazırlanıyor ve görüntü ile maske oluşturucuyu tek bir modelde birleştiriyor. Olasılık çıktısını ikili çıktıya dönüştürmek için 0,5'lik bir eşik uygulayarak modeli eğitmeye geçmeden önce parti boyutlarını ve dönem başına adımlarını tanımlamaya devam ederler. Model daha fazla eğitim görüntüsü kullanabilse de, görüntüleri bölümlere ayırmada orta derecede iyi bir iş çıkarıyor. Konuşmacı daha sonra H5 dosyasını kaydeder ve TF2 - onnx kitaplığını kullanarak dosyayı onnx'e dönüştürmeye devam eder.

  • 00:15:00 Bu bölümde video, Keras tarafından eğitilmiş bir modelin tf2onnx.convert kullanılarak ONNX formatına nasıl dönüştürüleceğini açıklamaktadır. Modeli yükledikten sonra, bir .onnx dosyası olarak kaydetmeden önce optimizasyonlar eklenebilir. Ayrıca video, ONNX modelinin tahmin için bir çalışma zamanı oturumunda kullanıldığını ve Keras modeliyle aynı sonuçları gösterdiğini gösteriyor. Video, bu eğitimin ONNX serisinin sonu olduğunu ve sunucunun bir sonraki videoda diğer konulara odaklanacağını belirterek sona eriyor.
 

Akıllı telefonlardan bulut ucuna ve aradaki her şeye kadar ONNX w/Qualcomm destekli cihazları kullanma



Akıllı telefonlardan bulut ucuna ve aradaki her şeye kadar ONNX w/Qualcomm destekli cihazları kullanma

Qualcomm'un tüm cihaz yelpazesinde ONNX değişim formatının kullanılması, modellerin tüm cihazlarında desteklenmesine yardımcı olur. Qualcomm, farklı cihazları ve çeşitli modelleri desteklerken zorlu mimarilerle karşı karşıya kalır, ancak ONNX sektörler, güçlü cihazlar ve coğrafyalar arasında ölçeklenebilirlik elde etmeye yardımcı olur. Qualcomm, ONNX modellerinin Windows çalıştıranlar da dahil olmak üzere Qualcomm destekli cihazlarda çalıştırılmasına izin veren bir ONNX çalışma zamanı yürütme sağlayıcısı oluşturmak için Microsoft ile birlikte çalıştı. Birleştirilmiş yazılım yığını, modelleri optimize etmek için profil oluşturucular, derleyiciler ve analizörler gibi ek araçlarla birlikte ONNX modelini dinamik olarak farklı hızlandırıcılara yönlendirerek en iyi performansı elde edebilen AI motoru adlı bir kitaplık içerir.

  • 00:00:00 Bu bölümde Qualcomm'dan bir konuşmacı, küçük kulaklıklardan dizüstü bilgisayarlara, güvenli kameralara ve hatta otomobil ekipmanlarına kadar çeşitli cihazlarını desteklemek için ONNX'i nasıl kullandıklarından bahsediyor. ONNX'in değişim formatının bir modeli hedeflemelerine ve onu destekledikleri tüm cihazlarda kullanmalarına izin verdiğinden bahsediyorlar. Ayrıca, farklı cihazları, farklı modelleri, uygulamaları ve özellik gereksinimleriyle birlikte desteklemek için uğraşmaları gereken zorlu mimarileri de tartışıyorlar. Örnek olarak, cep telefonlarında kimlik doğrulama için Apple'ın derinlik sensörü teknolojisini kullanmaktan ve şimdi aynı teknolojiyi güvenli kameralara ve otomobillere nasıl entegre ettiklerinden bahsediyorlar.

  • 00:05:00 Bu bölümde konuşmacı, endüstrinin bugün yapay zeka alanında karşı karşıya kaldığı ölçeklenebilirlik sorununu tartışıyor. Qualcomm'un ölçeklenebilirlik elde etmek için değişim formatı olarak ONNX kullanmanın zorluklarını ve faydalarını nasıl ele aldığını açıklıyor. Algoritmaları CPU'dan AI hızlandırıcılara taşıyarak, cihazlar kolayca ölçeklendirilebilir. Çok çekirdekli mimari, sistemin canlı video akışlarıyla çalışmasına yardımcı olan daha yüksek performans elde etmesini sağlar. Ayrıca, diğer çerçevelerle uğraşmaya gerek olmadığı için değişim formatı önemli ölçüde zaman kazandırır. Son olarak, konuşmacı ONNX'in dikeyler, küçük ve güçlü cihazlar ve coğrafyalar arasında ölçeklendirmeye yardımcı olduğunu açıklıyor.

  • 00:10:00 Bu bölümde konuşmacı, Qualcomm'un yapay zeka hızlandırıcıları için bir ONNX çalışma zamanı yürütme sağlayıcısı oluşturmak üzere Microsoft ile nasıl çalıştığını tartışıyor. Bu, ONNX modellerinin Windows çalıştıranların yanı sıra mobil ve otomotiv cihazları da dahil olmak üzere Qualcomm destekli çeşitli cihazlarda çalıştırılmasına olanak tanır. Qualcomm, çeşitli işletim sistemlerini destekleyen ve en iyi performansı elde etmek için ONNX modelini dinamik olarak farklı hızlandırıcılara yönlendirebilen AI motoru adı verilen birleşik bir yazılım kitaplığı içeren birleşik bir yazılım yığını geliştirdi. Ayrıca, kendi özel cihazlarına yönelik modeller oluşturmak ve optimize etmek için müşterilerinin kullanabileceği profil oluşturucular, derleyiciler ve analizörler gibi bir dizi ek araca da sahiptirler.
 

Raspberry Pi'de ONNX Çalışma Zamanı IoT Dağıtımı



Raspberry Pi'de ONNX Çalışma Zamanı IoT Dağıtımı

"Raspberry Pi'de ONNX Runtime IoT Deployment" başlıklı bu videoda sunum yapan kişi, cihaz için optimize edilmiş bir Mobilenet modeli kullanılarak Raspberry Pi'de bir bilgisayar görü modeli için ONNX Runtime'ın nasıl dağıtılacağını gösteriyor. Video, VNC görüntüleyici kullanarak Raspberry Pi'ye bağlanma, onu yapılandırma ve OpenCV ve Python kullanarak bir kamera testi çalıştırma sürecini kapsar. Sunum yapan kişi bir görüntü yakalar, çıkarım yapar ve görüntüdeki dolma kalemi doğru şekilde tanımlayan tahmin edilen ilk beş sınıfı yazdırır. Genel olarak, video, bilgisayarla görme uygulamaları için bir Raspberry Pi'de ONNX Runtime'ı dağıtmak için yararlı bir kılavuz sağlar.