Dinamik Yürütme

Dinamik yürütme, 0.21 sürümünden itibaren Bazel'de bulunan bir özelliktir. Bu özellikte, aynı işlemin yerel ve uzaktan yürütülmesi, biten ilk dalın çıkışı kullanılarak diğer şube iptal edilir ve paralel olarak başlatılır. Uzak derleme sisteminin yürütme gücünü ve/veya büyük paylaşılan önbelleğini, yerel yürütmenin düşük gecikmeli özelliğiyle birleştirerek hem temiz hem de artımlı derlemeler için iki platformun en iyisinden yararlanır.

Bu sayfada, dinamik yürütmenin nasıl etkinleştirileceği, ayarlanacağı ve hata ayıklanacağı açıklanmaktadır. Hem yerel hem de uzaktan yürütme kurulumunu yaptıysanız ve daha iyi performans için Bazel ayarlarını yapmaya çalışıyorsanız bu sayfa tam size göre. Uzaktan yürütmeyi ayarlamadıysanız önce Bazel Uzaktan Yürütme'ye Genel Bakış'a gidin.

Dinamik yürütme etkinleştirilsin mi?

Dinamik yürütme modülü Bazel'ın bir parçasıdır ancak dinamik yürütmeden yararlanmak için aynı Bazel kurulumundan hem yerel olarak hem de uzaktan derleme yapabiliyor olmanız gerekir.

Dinamik yürütme modülünü etkinleştirmek için --internal_spawn_scheduler işaretini Bazel'a iletin. Bu işlem, dynamic adlı yeni bir yürütme stratejisi ekler. Artık bu stratejiyi, dinamik olarak yayınlamak istediğiniz anımsatıcılar (ör. --strategy=Javac=dynamic) için bir strateji olarak kullanabilirsiniz. Dinamik yürütmenin etkinleştirileceği anımsatıcıların nasıl seçileceğini öğrenmek için bir sonraki bölüme bakın.

Dinamik stratejinin kullanıldığı anımsatıcılar için uzaktan yürütme stratejileri --dynamic_remote_strategy işaretinden ve yerel stratejiler de --dynamic_local_strategy işaretinden alınır. --dynamic_local_strategy=worker,sandboxed geçişi, dinamik yürütmenin yerel dalı için varsayılan değeri, ilgili sırayla çalışanlar veya korumalı alana alınmış yürütmeyle denenecek şekilde ayarlar. --dynamic_local_strategy=Javac=worker öğesinin iletilmesi yalnızca Javac anımsatıcısı için varsayılan değeri geçersiz kılar. Uzak sürüm de aynı şekilde çalışır. Her iki işaret de birden fazla kez belirtilebilir. Bir eylem yerel olarak yürütülemezse normal şekilde uzaktan yürütülür veya uzaktan yürütülür.

Uzak sisteminizde önbellek varsa --local_execution_delay işareti, uzak sistem bir önbellek isabeti gösterdikten sonra yerel yürütmeye milisaniye cinsinden bir gecikme ekler. Bu, daha fazla önbellek isabeti olasılığı olduğunda yerel yürütmenin çalıştırılmasını önler. Varsayılan değer 1.000 ms'dir ancak önbellek isabetlerinin genellikle gerekenden biraz daha uzun olacak şekilde ayarlanması gerekir. Gerçek süre hem uzaktan sisteme hem de gidiş dönüşün ne kadar sürdüğüne bağlıdır. Bazıları gidiş dönüş gecikmesi ekleyebilecek kadar uzakta olmadığı sürece genellikle belirli bir uzak sistemin tüm kullanıcıları için değer aynı olur. Tipik önbellek isabetlerinin ne kadar sürdüğüne bakmak için Bazel profil oluşturma özelliklerini kullanabilirsiniz.

Dinamik yürütme, yerel korumalı alana alınmış stratejiyle ve kalıcı çalışanlarla birlikte kullanılabilir. Kalıcı çalışanlar, dinamik yürütmeyle birlikte kullanıldığında otomatik olarak korumalı alan ile çalışır ve Multiplex çalışanları kullanamaz. Darwin ve Windows sistemlerinde korumalı alana alınan strateji yavaş olabilir. Bu sistemlerde korumalı alan oluşturma ek yükünü azaltmak için --reuse_sandbox_directories değerini geçebilirsiniz.

Dinamik yürütme, standalone stratejisiyle de çalıştırılabilir. Ancak standalone stratejisinin yürütmeye başladığında çıkış kilidini alması gerektiğinden, uzaktan stratejinin önce bitirmesini etkili bir şekilde engeller. --experimental_local_lockfree_output işareti, yerel yürütmenin doğrudan çıkışa yazmasına ve önce bitmesi durumunda uzaktan yürütme tarafından iptal edilmesine izin vererek bu soruna çözüm getirir.

Dinamik yürütmenin dallarından biri daha önce tamamlanır ancak başarısız olursa işlemin tamamı başarısız olur. Bu, yerel ve uzaktan yürütme arasındaki farkların göz ardı edilmesini önlemek için bilinçli bir seçimdir.

Dinamik yürütmenin ve kilitlemenin nasıl çalıştığıyla ilgili daha fazla bilgi için Julio Merino'nun mükemmel blog gönderilerine göz atın

Dinamik yürütmeyi ne zaman kullanmalıyım?

Dinamik yürütme, bir tür uzaktan yürütme sistemi gerektirir. Şu anda yalnızca önbelleğe alınmış uzak bir sistem kullanmak mümkün değildir çünkü önbellekte yoklanma, başarısız bir işlem olarak kabul edilir.

Her tür işlem, uzaktan yürütme için uygun değildir. En iyi adaylar, doğal olarak yerel olarak daha hızlı olanlardır. Örneğin, kalıcı çalışanların kullanılmasıyla çalışırlar veya uzaktan yürütmenin ek yükünün yürütme süresine hükmedecek kadar hızlı çalışmaya devam ederler. Yerel olarak yürütülen her işlem bir miktar CPU ve bellek kaynaklarını kilitlediğinden, bu kategorilere girmeyen çalıştırılan işlemler yalnızca bu tür işlemler için yürütmeyi geciktirir.

Performans profili oluşturma, 5.0.0-pre.20210708.4 sürümü itibarıyla dinamik yürütme yarışını kaybettikten sonra iş isteğini tamamlamak için harcanan süre de dahil olmak üzere çalışan yürütmeyle ilgili verileri içermektedir. Dinamik yürütme iş parçacıklarının kaynak edinmek için çok fazla zaman harcadığını veya async-worker-finish içinde çok fazla zaman harcadığını görürseniz çalışan iş parçacıklarını geciktiren bazı yavaş yerel işlemleriniz olabilir.

Dinamik yürütme performansı kötü olan verilerin profilini oluşturma

8 Javac çalışanının kullanıldığı yukarıdaki profilde, birçok Javac çalışanının yarışları kaybedip async-worker-finish iş parçacıklarındaki işlerini bitirdiğini görüyoruz. Bunun nedeni, çalışanları ertelemek için yeterli miktarda kaynağın kullanılması olan, işçi olmayan bir hatırlatıcıydı.

Daha iyi dinamik yürütme performansıyla verilerin profilini oluşturma

Yalnızca Javac dinamik yürütmeyle çalıştırıldığında, işe başlayan çalışanların yalnızca yarısı işe başladıktan sonra yarışı kaybediyor.

Daha önce önerilen --experimental_spawn_scheduler işareti kullanımdan kaldırıldı. Dinamik yürütmeyi etkinleştirir ve tüm anımsatıcılar için varsayılan strateji olarak dynamic ayarlar. Bu durum, genellikle bu tür sorunlara yol açar.

Sorun giderme

Dinamik yürütmede bazı sorunlar, yalnızca belirli yerel ve uzaktan yürütme kombinasyonları altında ortaya çıkarılabileceği için hafif ve hata ayıklaması zor olabilir. --debug_spawn_scheduler, dinamik yürütme sisteminden bu sorunların giderilmesine yardımcı olabilecek ekstra çıkışlar ekler. Sorunların yeniden oluşturulmasını kolaylaştırmak için --local_execution_delay işaretini ve uzak/yerel iş sayısını da ayarlayabilirsiniz.

standalone stratejisini kullanarak dinamik yürütmeyle ilgili sorunlar yaşıyorsanız --experimental_local_lockfree_output olmadan çalıştırmayı deneyin veya yerel işlemlerinizi korumalı alana alın. Bu, derlemenizi biraz yavaşlatabilir (Mac veya Windows kullanıyorsanız yukarıya bakın) ancak hatalara ilişkin bazı olası nedenleri ortadan kaldırır.