Attention Mechanism (Dikkat Mekanizması)
Modelin girdi içindeki farklı bölümlere farklı ağırlıklar vererek odaklanmasını sağlayan mimari.
Neden Önemli?
“Transformer'ların temel yeniliği; modern dil modellerinin başarısının arkasındaki anahtar kavram.”