Attention Head

Transformer'da farklı ilişki türlerini öğrenen bağımsız dikkat birimi.

Neden Önemli?

Modellerin metni anlamasını sağlayan mekanizmanın temel bileşeni.