Tabiiy tilni qayta ishlashda bert modelining amaliy qo‘llanilishi

Abstract

Ushbu tezisda zamonaviy tabiiy tilni qayta ishlash (NLP) jarayonlarida BERT (Bidirectional Encoder Representations from Transformers) modelining amaliy qo‘llanilishi, uning nazariy asoslari va transformer arxitekturasining ilmiy mohiyati yoritiladi. Shuningdek, BERT modelining kontekstual ma’no tahlilini amalga oshirishdagi ustunliklari, ko‘plab real dunyo tizimlarida qo‘llanilishi hamda o‘zbek tili uchun moslashtirish masalalari keng tahlil qilinadi. Modelning ikki yo‘nalishli kontekstni o‘rganish qobiliyati semantik tushunishni chuqurlashtirib, NLPning turli vazifalarida samaradorlikni sezilarli oshiradi. Tezisda modelning mashinaviy o‘qitishdagi afzalliklari, korpus bilan ishlashda uchraydigan muammolar va BERT asosidagi kelajakdagi ilmiy ishlanmalar ham ko‘rib chiqiladi.

Kalit so‘zlar: BERT, NLP, tabiiy tilni qayta ishlash, transformer, contextual embedding, semantik tahlil, o‘zbek tili, sun’iy intellekt.