süvaõppe närvivõrgu arhitektuur, mis põhineb enesetähelepanu mehhanismil ja suudab andmeid (nt sõnu tekstis) töödelda üheaegselt, võimaldades süsteemil mõista konteksti ja elementide vahelisi pikaajalisi seoseid palju tõhusamalt kui varasemad mudelid