Model mimarisi, bir sinir ağının iç bileşenlerinin nasıl düzenlendiğini ve bu bileşenlerin birbirleriyle nasıl bağlantı kurup bilgiyi nasıl işlediğini tanımlar. Bu, bir modelin eğitim sırasında öğrendiği belirli değerler değil, hangi tür verileri iyi işleyebileceğini ve bu verileri içeride nasıl işlediğini belirleyen bir tasarım şemasıdır.
Farklı mimariler farklı problemlere uygundur. Konvolüsyonel ağlar, uzamsal örüntüleri tanımak üzere tasarlanmıştır ve görüntüyle ilgili görevlerde baskındır; tekrarlayan ağlar dizileri adım adım işler ve metin için, büyük ölçüde yerini bırakmadan önce standart tercihti; dikkat mekanizması etrafında inşa edilen transformatörler ise artık hemen hemen her büyük dil modelinin temelini oluşturur, çünkü tüm diziyi paralel olarak işler ve kelimeler arasındaki uzun mesafeli ilişkileri öncekilerden çok daha etkili bir şekilde yakalar.
