GPT, insan benzeri metinler üreten bir tür dil modeli olan Üretken Önceden Eğitimli Transformer anlamına gelir. Kullanıcı girişlerine tutarlı ve tutarlı yanıtlar oluşturmak için çok büyük bir metin veri kümesi üzerinde önceden eğitilmiş, transformatör tabanlı bir sinir ağı mimarisidir. GPT, metin oluşturma, dil çevirisi, soru yanıtlama ve metin sınıflandırma dahil olmak üzere çeşitli doğal dil işleme görevlerinde kullanılabilecek güçlü bir dil modelidir.