LoRA:modeli tamamen değiştirmeden uyarlamak

Bir modeli belirli bir göreve uyarlamak için her parametresini yeniden eğitmek pahalı olabilir. LoRA, ana ağırlıkları dondurup daha küçük, eğitilebilir ek yapılar üzerinden uyarlama yapmayı araştıran bir yaklaşımdır.

LoRA konusunda benim için önemli ayrım, bir modeli uyarlamakla bütün sorunu çözmenin aynı şey olmaması. Belirli bir görsel dil veya görev için uyarlama ilginç olabilir; ama yanlış seçilmiş örnekleri teknik bir yöntem kendiliğinden düzeltmez. Önce neyi korumak ve neyi değiştirmek istediğimi açıklaştırmayı tercih ederim.

Temel fikir

2021 tarihli çalışma düşük dereceli matrisleri kullanarak uyarlama için gereken eğitilebilir parametre sayısını azaltmayı ele alır. Bu, bütün eğitim maliyetlerinin sıfıra indiği veya her görevde aynı kaliteye ulaşıldığı anlamına gelmez. Veri seçimi ve değerlendirme hâlâ belirleyicidir.

Bir örnek üzerinden

Bir markanın kısa ürün açıklamalarında tutarlı bir yapı istediğini düşün. Önce açık talimat ve birkaç iyi örnekle sorunun çözülüp çözülmediğini dene. Uyarlama gerekiyorsa eğitim örnekleriyle test örneklerini ayır. Sadece eğitildiği cümlelere benzeyen metinlerde iyi sonuç almak yeterli değildir.

Nereden başlamalı?

LoRA’yı sihirli bir stil düğmesi gibi değil, belirli bir uyarlama tekniği olarak gör. Hangi temel model, hangi veri ve hangi değerlendirme kullanıldığı sonucu değiştirir. Az parametre eğitmek, veri kalitesine daha az özen göstermek için neden değildir.

Benim yaklaşımım

Bir görsel seri için uyarlama düşünsem örneklerin konu, ışık ve kalite bakımından neyi temsil ettiğini incelerdim. Sonra daha önce kullanılmamış bir brief’le sonucu kontrol etmek isterim. Sadece eğitim örneklerine benzeyen başarılı çıktılar, farklı ihtiyaçlarda da aynı davranışı göstereceğini kanıtlamaz.