- Aşırı uyum: çok çeşitli, girişleri ezberleyin ve yeni verileri kaydedin; Düzenlileştirme, doğrulama, doğrulama, bırakma, daha fazla veri ve erken durdurma ile düzeltin.
- Yetersiz uyum: çok fazla, patronları tanımamak; daha fazla tamamlanarak, daha fazla çağla, en iyi özelliklerle ve daha az düzenli hale getirilerek azaltıldı.
- Sesgo-varianza: denge kritiği; Çeşitliliği artırmakla birlikte ses azaltılır ve bunun tersi de geçerlidir.
- Uygulama alanları: veri kalibrasyonu, normalleştirme, sapmanın izlenmesi, k-katlama, birleştirmeler (torbalama/artırma) ve öğrenmeyi aktarma.
Makine öğrenimi modellerinde, çok daha net bir şekilde çalışır: bu işlev, gördüğünüz verilerle ve yeni verilerle birlikte çalışır. Bu denge, bilgiyi öğrenmek ve ezberleyerek genelleştirmek için gereklidir. Bu, prototip görünümünden ve üretimde uygulanabilir bir sistemden farklıdır.
Alcanzar'ın orta seviyedeki sorunu önemsiz değil. En iyi klasikler: aşırı uyum (çok ayarlama) ve yetersiz uyum (alt ayarlama). Model, kullanıcı verilerini şifreyle karıştıran giriş verileriyle aynı olduğunda ilk kez ortaya çıkıyor; ikinci olarak, model basit olduğundan (veya sınırlı olduğundan), temel kullanıcılar için yeterli değildir. Sonraki bölümlerde, bazı nedenlerden dolayı, bazı durumlarda, bazı durumlarda, ses düzeyi ve değişkenlerle ilişki, ve her türlü durumu düzeltmek için bir teknik uygulama cephaneliği.
Yani aşırı uyum ve yetersiz uyum
Tekrarlanamayan tuhaflıklar ve aykırı noktalar da dahil olmak üzere, antrenmanla birlikte aşırı uyum gösteren bir model. Girişim ve doğrulama veya test sürecinden yararlanın. Hafızadaki yanıtları öğrenen bir öğrenciyiz: Simülasyonu kullanın, ancak sınavda gerçekten başarılı olun.
Yetersiz uyum en iyi seçenektir. Model, problemin yapısını yakalayamıyor: Testte olduğu gibi entrenamiento'da mal var. Bir eğri oluşturan verileri bir açıyla ayarladığınızı hayal edin; Por muy bien que la estires, hayır va a encajar bien. Alt ayar, alto ses ve çeşitli değişikliklerle birlikte yapılır.
Uygulamada, şu anda farklı bağlamlarda ölçümler mevcut. Giriş ve doğrulama işlemleri arasındaki büyük farklar, aynı zamanda bazı ayarlamalar da ortaya çıkıyor. Ancak, ilave pistleri açmak için giriş sırasında süreyi gözden geçirin.
Ses ve Değişkenler: Hassas Denge
Aşağıdaki hata kaynakları: sesgo (bias) y varianza (varyans analizi). Bu, modelin aşırı derecede basit (aşırı basit) varsayımlara sahip olması nedeniyle yetersiz kalıyor. Modelin değişkenliği, giriş bağlantısındaki küçük dalgalanmalar nedeniyle çok hassastır, bu da aşırı uyum anlamına gelir.
Ünlü takas sesgo-varianza bir ara ortam bulma zorunluluğunuz var. Tamamlayıcıyı artırdıkça, değişiklik yapmak için bir süre daha devam edin; Basitleştirilmiş olsa da tam tersine ortaya çıkıyor. Girişin büyük bölümünde, ses, değişkenlik arttıkça azalacaktır., aynı zamanda, doğrulamada uyumluluğu kontrol etmenizi ve süresiz olarak bir ciegas'a girmemenizi sağlar.
Örnek hızlı: yaşam değeri tahmini. Bir düz (çok fazla) ilişki eğri ise daha iyi olabilir (yetersiz uyum); her seferinde ruido'yu yakalayabilen 4 kademeli bir polinom (daha fazla değişiklik, aşırı uyum); bir tam anlamıyla hoş bir moderada kıvrımı (örneğin, iki kez düzenli hale getirilmiş 2. dereceli bir polinom) en büyük uzlaşmayı sağlayabiliriz.
Belirli bir problemin tanımı
Son ödeme türleri şunları içerir: Girişim ve Testte Daha Düşük Hassasiyet; bir bankanın doğrulama süresi boyunca giriş izni; girişte aşırı duyarlı ve küçük değişiklikler; peki Girişte "ganen" içeren daha fazla model var ancak genelleştirme pek yeterli değil.
Alt ayarı yapmak için, çeşitli bağlamlarda vasat ölçümler yapın ve temel düzeyde eğitim alın: eğer farklı zamanlarda önemli bir nokta yoksa, modelin yeterli kapasiteye sahip olmadığını test edin. Diğer bazı tipik tahminler ise çok genelleştirilmiş tahminlerdir: Belediye başkanlığı sınıfını temel alan bir sınıflandırma veya medyaya bağlı olarak ortaya çıkan bir regresör.
Doğrulama işlemi tamamlandı. Çok sayıda kıvrım (kıvrım) arasında çok fazla değişkenlik var ve aşırı uyum sağlanıyor. Sıradan bir ortamda tutarlılık, bir de kombin, yetersiz bir renk tonu. Tahmin hataları (MAE, MSE) ve belirli tartım ölçümleri kadar doğruluk açısından da önemlidir.
Aşırı uyumun nedenleri
İlk başta hepsi tamamlandı. Mevcut veriler için çeşitli parametrelere sahip modeller yerel ayarlara özgü bir bilgi sahibidir. Kontrolde çok uzun süre etkili olmanızı sağlar: Tempra'da uygulama yoksa, Öğrenmeyi kolaylaştıran model ezberlemeye yardımcı olur.
Diğer taraftan, kontroldeki değişkenlerin bazı ayarlamaları ve özellikleri: alakasız özellikler veya çok sayıda korelasyon Hayali ilişkilerle ilgili bir model kullanın. Sorunu çözen küçük temsilciler veya temsilciler la muestra yeterli çeşitlilikte değil genel modele uygun olarak.
Nöronallerin en derininde, temsil kapasitesi çift filolu bir silahtır. Düzenlileştirme ve veriler yeterli olmadığında, bunlar daha kolay hale getirilecek. Çok büyük bir miktar (parti boyutu) gibi unsurların dahil edilmesi, kullanıcıların aşırı hassasiyetle ezberlenmesine katkıda bulunabilir.
Yetersiz uyumun nedenleri
El subajuste suele venir de Sorunu tamamlamak için aşırı basit modeller (örneğin, çizgisel ilişkiler, çizgisel olmayan ilişkiler). Las Daha fazla (L1/L2) düzenlileştirme, eğitimin "başarılı" olmasını sağlayabilir basit çözümlerin aşırı olması zorunludur.
Diğer bir faktör de girişlerde kullanılan bilgilerin yanlış olmasıdır. Si İlgili faktörler tanımlanamayan özellikler, modelin bir beklentiye sahip olması mümkün değil. Yetersiz bildirimler veya normalleştirme/standartlaştırma kullanımı Optimizasyonu zorlaştırabilir ve yeterince uygun olmayan bir eğitimde eğitim alabilirsiniz.
Son olarak, tam olarak şu anda Yeterli süreye girilmiyor (çok sayıda dönem veya yineleme), şu anda hemen zamanından önce modeli emekliye ayırdınız, veya verilerin doğrulanması, kullanıcıların aşırı miktarda para harcamasını engellemesine neden olur.
Giriş için aşağıdakileri yapın
Görüntü ve görüntü: Elyazmalarının rakamlarının somut pikselleri ezberlemesi durumunda, Girişimi öğrenebilir ve başka şekillerde yazılan rakamlarla düşebilirsiniz (aşırı uyum). Con técnicas como veri artırma (rotaciones, volteos) genellemeyi tercih ediyorum.
Finansallar: iyi sonuç verebilecek bir zaman serisi modeli gelecekte tekrarlanmayacak pasado alternatifleri tamamen ayarlıysa. Yetersiz uyumla, hiçbir ciclos veya farklı yapılara tepki yok.
Bir ayıklanma meraklısı, bir beton yığınının son ayrıntısına kadar taklit etmek için bir balon robotu çalıştırır. Robot, yeni bir oyundan önce satılabileceği gibi, güvenli bir şekilde mükemmel bir iş çıkardı. Yanlış bir genelleme.
Meteorolojide, hava ve hava koşullarının nemli olması durumunda yalnızca hava sıcaklığı önceden belirlenmeye çalışılır. Bazı değişkenler eksik uyum sağlamaya neden oluyor: Termometreye bağlı olmayan şehir rengi modeli.
Ayarın alt ayara göre "iyi" olması mümkündür
Önemli bir konu var. BM modelo subajustado extremo sürekli bir hata veriyor, girişi görmezden geliyorsunuz: test sırasındaki hata değişken hedefin değişkenleri. Alternatif olarak, tüm giriş noktalarını enterpole edecek şekilde ayarlanmış bir model Çizimler arasında resimler oluşturun ve hatayı ortadan kaldırın toplum dışı potansiyelin test edilmesi.
Bu, yüksek dereceli polinomlarla ilgili olabilir veya MLP'nin temel parametrelerini dahil edebilir: gözlemler arasında "salınım" yapacak bir noktayı ayarlayın ve gösterinin saçma sapan değerlerini yaratırım. Sonuç olarak, giriş seviyesi performansında düşüş yaşandı no tiene un tope claro.
Fazla Uyum ve Sobreparametrización: Karışıklık yok
Farklı terminaller oluşturun. Sobreparametrización Bu, model sınıfının problemin yapısını temsil etmek için gerekli olandan daha fazla kapasiteye sahip olduğu anlamına gelir. Aşırı uyum gösterme somut bir model ortaya çıktığında, genelleştirme için en iyi giriş ve çıkış biçimi optimizasyonları. Yeterince düzenli hale getirilirse, tam olarak ayarlanması gerekmeyen bir parametrelendirme modelinin kullanılması mümkündür. Düzenlileştirme teknikleri (örneğin, sırt veya kement) bazı konseptlerde "desapoplar" olarak kullanılabilir.
Ayarı değerlendirin ve izleyin
Gribi giriş, doğrulama ve düzeltmeye ayırın. Her segmentte çok doğruluk, hatalar veya ölçüm hataları. Giriş, doğrulanmadan önce yapılırsa, bu nedenle; Eğer dosya kötüyse, muhtemelen veri kapasitesi yetersizdir.
Doğrulama işlemi (k-kat), tek bir bölümden elde edilen sonuçların maliyetini azaltır. Doğrulama ortamı sağlamsa ve taraflar arasında veri aktarımı tamamsa, modelin genelleştirilmesi konusunda daha fazla garanti var. También es Clave, nihai (test) değerlendirmenin bir birleşimini tanımlar. Hiperparametre ayarı sırasında düğmeye basılmıyor.
Buna ek olarak, Verilerin zamanında dağıtımına dikkat edin. Veri kayması (giriş dağıtımındaki değişiklikler) çalıştırılamaz bir modele dönüştürülebilir ve şu şekilde çalışır: periyodik olarak izleyin ve yeniden girin bu işin bir parçası, bir eğlence yok.
Aşırı uyumu azaltmak için teknikler
Datos y más datos. Sesi artırın ve giriş çeşitliliğini artırın Bu modelin, kazara ayrıntılarla dolu bir kullanıcı olduğunu fark ettiğinizi unutmayın. Şunu söyleyebilirim ki, en iyi değerlendirme: distorsiyon durumunda aykırı değerleri temizleyin ve hataları düzeltin bir önceliktir.
Regularización. L1 (kement) karakter seçimini tercih eder al llevar pesos a cero; L2 (sırt) cezayı geri gönderdi Halka şeklinde bir miktar para harcayın. elastik ağ Ambas ve birçok şeyin birleşimi bu bir ortam ortamıdır.
Arquitectura y entrenamiento. Dropout en redes neuronales Apaga nöronları farklı bir yapıya sahiptir ve modelin çok özel rotalara bağlı olmasını önler. Enárboles, budama (budama) ve kaynak derinliğini sınırlamak recorta la complejidad. Parada temprana: Doğrulama süresini izleyin ve en kısa sürede onaylayın.
Validación y selección. k-kat çapraz doğrulama Ayarlama kararlarını doğrulamak ve “önemli” modeli tek başına kaçırmaktan kaçınmak için. Değişken sayısını azaltın Çeşitlilik ve yorumlanabilirlik açısından en iyi girişleri sağlayın.
Optimizasyon y lotes. Pek çok küçük insan, bir eğimde "selam verici" bir tavırla tanıtıldıgenelleştirme açısından önemli bir menü; Pek çok dev, giriş aşamasında çok hassas optimizasyon tepsileri elde etmeyi tercih edebilir.
Yetersiz uyumu azaltmak için teknikler
Capacidad del modelo. Gerekli verilerin tamamlanması ve tamamlanması (polinómico en vez de lineal, árboles más profundos, redes menos yüzeyseller). Hala frene basılmıyor ve sağlam doğrulamalar sağlanıyor.
Düzenlileştirme ve zamanlama. Aşırı derecede ceza aldıysanız, modeli yeniden canlandırmak için düzenlemeyi yapın. Dönem sayısını artırın: modelin anlaşılması için daha fazla zaman gerektirmesi çok basit, doğrulama işlemine devam etmeden önce bir doğrulama işlemi yapın.
Özellikler ve ön işlemler. Daha fazla ve en iyi özellikler (etkileşimler, polinomlar, değişken kategorilerine ilişkin uygun kodlar). Normaliza o estandariza Algoritmanın yükseltilmesi için "favorezca" değişkenleri olmaması için. Çoğu durumda, filtre gürültüsü eleva la señal útil.
Datos y cobertura. Daha fazla temsil edilen veri alt ayar olasılığını azaltır. Eğer bağlantı doğru ise, bitki yetiştirin öğrenme aktarımı NLP'yi eğitimle ilgili temsillere katılmak için hayal edin ve "düzenlenmemiş" bir modelden kaçının.
Veri kalitesi, sapma ve otomasyon
La calidad de datos manda. Tamlık, tamlık ve tutarlılık Deberían, finansal kaynakları denetler ve araştırır. Teknikler normalleştirme (0-1) veya standartlaştırma (medya 0, geliştirme 1) Yükseltme için temel değişken modelinin engellenmesi.
Zaman geçtikçe, cambian verileri. Veri kayması, yeni bağlamda aşırı uyum ve yetersiz uyum nedeniyle ortaya çıkabilir. Veriler: ölçümleri izleyin, dağıtımları inceleyin ve gerçekleşen verilerle düzenli olarak yeniden girin.
Araçları AutoML hiper parametre seçimini hızlandırabilir, özellikleri geliştirebilir ve değerlendirme süreçlerini oluşturup, yüksek düzeyde analiz için serbest zaman ayırabilirsiniz. Tarihi bir hikaye: Amazon Machine Learning hizmeti yeni alışılagelmişleri kabul etmedin mi; antigua'da belgelerle ilgili çalışmalar yapılıyorsa, şu anda mevcut.
Seneler clave ve pulgar kuralları
Günlük pratikte, pek çok örnek var: modelin uygun olup olmadığı veya uygun olup olmadığı Basitçe Giriş Yapılması Gerekenler. Deneyimlerimizle, üç kez rutine girdik: Testte büyük bir adım (çok doğru), her seferinde tutarlı sonuçlar (alt ayar), ve katlamalarda çok fazla değişiklik var (sobreajuste de manual).
Girişimdeki iyi ölçütlerle sınırlı değilsiniz. Doğrulama sırasında trene binmek için gereken bir zaman eğrisi ve HAFIZA tavsiyesi. Böyle bir durum ortaya çıkarsa, zaman ayırın ve uygulamayı düzenli hale getirin.
Ensamblados, karakter seçimi ve lot özellikleri
Bağlantı yöntemleri. Torbalama (Rastgele Orman gibi) değişkenliği azaltır ve bu, ayılma kararına karşı bir panzehirdir; Yükseltme (XGBoost gibi) sesgo'yu azaltır ve çok basit modellerden yararlanabilirsiniz, ancak hiçbir şekilde ayılmamak için cuidarlo.
La Öznitelik Seçimi gereksiz veya ilgisiz değişkenleri ortadan kaldırın, gürültüyü azaltmak ve genellemeyi önemsiyorum. Girişte aşırı giriş yapıldığında sorun ortaya çıktığında en etkili çözümlerden biri budur.
Şunu ima ediyorsun: Genelleştirilmiş menüde çok sayıda değişkenlik sağlandı; Pek çok büyük şey, testte başarılı olmak için girişkenliği sağlayacak çözümleri deneyebilir.
Algoritmayı kullanın: Sencilt'i kullanarak, istediğiniz algoritmayı yükseltin
Soruna ve verilere bağlı olarak, farklı ailelerde daha fazla fark vardır. Sınırlar açıksa, SVM veya çerçeveler maravillada olabilir. Büyük ve tamamlayıcı unsurlarla birlikte, derin bilgiler sağlar veya yeni esneklik potansiyellerini bir araya getirir. Doğrusal regresyon veya k-NN gibi senaryo modelleri son derece mütevazı veri kümeleri ile kullanılır ve ilk olarak yorumlanabilirlik sağlanır.
Karşılaştırmalı bir stratejik strateji basit sürümler ve paralel sürümler bu doğrulama yöntemiyle. Bu, çok kırılgan bir durumdayken tamamen açık hale geldi. "Daha karmaşık" bir modele gerek yok, çünkü dünya gerçeğinde daha uygun.
Kullanım nedenleri ve sözleşmedeki sonuçları
Aslında, bir risk tahmininin bir hastane veya belirli bir grup için daha genelleştirilmesi gerekir. Yerel Kullanıcıların Yerel Durumlarını Ayarlama; subajustar, inútil. Finansmanda, modelos que tarihin geçmişini ezberlemek gelecek sezonlarda yapılan çeviriler.
Otomatik araçlarda, nesnelerin tespit edilmesi için algılama sistemleri çeşitli ortamlar; somut görüntüleri ezberlemek artık mümkün değil. NLP'de duygu analizcisi var mı? "Carrerilla" giriş cümlelerini öğrenin, yeni formüllere gerek yok.
Bir düzey müzakere, bir işin çözümü yanlış pozitifler (örnek olarak, sahtekarlık) uluslararası doğrulamayı teşvik eden stratejiler se desploman al desplegarse. Yeter ki, sizin tarafınızdan üretin kaval kemiği tahminleri Bu, veri donanımına güvenerek önemsiz şeylerle ilgili olarak ortaya çıkıyor.
Sık Kullanılanlar ve Matematik Uygulamaları
Ayıklanmayı önlemek için karakter seçimini nasıl yaptınız? Tüm işten çıkarmalar ve işten çıkarmalar, farklılıkları azaltın ve genelleştirmeyi artırın. Bunlar, ilgisiz girişler olup olmadığı konusunda ilk akla gelenlerdir.
Ensambles sorunları azalttı mı? Bagging tiende a bajar varianza (menos sobreajuste) y Artırılması bajar sesgo (daha az ayar). Bien ajustados, oğul herramientas muy potentes.
Kolayca nasıl daha derin bir çözüm elde edebilirsiniz? Por su enorme capacidad. Düzenleme, çıkarma ve daha fazla veri/artırma dürüstlük için son gereklilikler.
¿El tamaño de lote influye? Evet. Lotes pequeños ruido faydacıoso'yu tanıttı genellemeyi tercih ediyorum; Birçok büyük şey daha kolay "hatırlama" yapabilir.
Transfer öğrenimi yardımı? Bir çok. Deneyimlerinizi Onaylayın Küçük veri kümelerinde yapılan ayarlamalar gibi alt ayar güçlerini (etkili kapasitenin düşük olması) azaltırsınız.
Checklist accionable rápido
Bir kayıt stüdyosu uygulamasını doğrulamak için, eğer gran gap treni/testi, daha fazla düzenleme, daha fazla veri, erken durma, bırakmak, bir kutuyu açın ve k-katlamayı doğrulayın. Si ves mal en train y test, daha fazla kapasiteyi, daha fazla zamanı düşünün, bajar regularización, en önemli özellikler ve yeterli ön işlemler (normalleştirme/standartlaştırma).
Y no olvides lo operativo: monitoriza drift, verilerin kalibrasyonuna göre yeniden giriş planı yapın ve bunu yapın, apóyate en AutoML Hiperparametrelerin mekanik parçalarını ve değerlendirme hatlarını otomatikleştirmek için.
Bu denge teması için yapılacaklar: Captar la señal sin perseguir el ruido. Bu denge mevcut olduğu sürece, laboratuvarın çalışma modeli ve çalışma alanı; Eğer eğlenirsen, işleri halledersin. Sinyalleri tespit edin, uygun teknikleri uygulayın ve verileri doğru şekilde belirleyin "doğru" ve "cesaretli" arasındaki farkın markası.
