מה זה מודל שפה גדול?

מודל שפה גדול (Large Language Model - LLM) הוא מודל בינה מלאכותית בקנה מידה גדול, הכולל מיליארדי פרמטרים, המיועד להבין, לעבד ולייצר שפה טבעית במגוון משימות.

המטרה של LLM היא ליצור יכולת גנרית להבנת שפה וייצורה, שתוכל לטפל במגוון רחב של משימות שפה ללא צורך באימון מיוחד לכל משימה ספציפית.

LLM פועל על ידי אימון על כמויות עצומות של טקסט מהאינטרנט כדי ללמוד דפוסי שפה, יחסים סמנטיים ומבנים דקדוקיים, ולאחר מכן מיישם ידע זה לביצוע משימות שפה שונות.

GPT-4, Claude, LaMDA ו-PaLM הם דוגמאות ל-LLMs שיכולים לכתוב מאמרים, לענות על שאלות, לתרגם שפות, לכתוב קוד ולבצע משימות שפה מורכבות אחרות.

• Natural Language Processing (עיבוד שפה טבעית)
• Transformer (טרנספורמר)
• Pre-training (אימון מקדים)
• Foundation Models (מודלי בסיס)