1. Fogalom magyarul: nagy nyelvi modellek

2. Fogalom angolul: large language models

3. Meghatározás:

A nagy nyelvi modellek (Large Language Models, LLM-ek) áttörést jelentő neurális hálózatok a természetes nyelvi feldolgozásban, amelyek példátlan mennyiségű szöveges adaton (szövegkorpuszon) tanított nagyméretű transzformer architektúrákra épülnek. Ezek a modellek képesek természetes nyelvű szövegek generálására, értelmezésére és elemzésére. Az LLM-ek, mint például a GPT-3 (Generative Pre-trained Transformer 3) és a BERT (Bidirectional Encoder Representations from Transformers), több milliárd paraméterrel rendelkeznek, amelyek lehetővé teszik számukra, hogy összetett nyelvi feladatokat hajtsanak végre, valamint finomhangolhatók vagy kevés adatos tanulással tovább taníthatók specifikus feladatokra, mint például ügyfélszolgálati alkalmazások vagy orvosi dokumentumok elemzése. Az LLM-ek alkalmazási területei széleskörűek, beleértve a kreatív írást, az automatikus összefoglalók készítését, a keresési találatok rangsorolását és a chatbotok működtetését. A nagy nyelvi modellek egyik problémája a „hallucinálás”, amely során hamis vagy pontatlan információkat generál a modell, azonban ez a jelenség a legfrissebb hálózatok és tanítási technikák alkalmazása esetén egyre ritkábban fordul elő.

4. Hivatkozások:

• Devlin, Jacob, et al. "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding." arXiv preprint arXiv:1810.04805 (2018).
• Brown, Tom B., et al. "Language Models are Few-Shot Learners." arXiv preprint arXiv:2005.14165 (2020).
• https://www.ibm.com/topics/large-language-models

5. Megjegyzések:

6. Kulcsszavak:

mesterséges intelligencia, gépi tanulás, mélytanulás