बड़े भाषा मॉडल

बड़े भाषा मॉडल ( एलएलएम ) एक कम्प्यूटरीकृत भाषा मॉडल है, जो एक कृत्रिम तंत्रिका नेटवर्क द्वारा भारी मात्रा में "पैरामीटर" (इसकी परतों में "न्यूरॉन्स" और उनके बीच लाखों से अरबों "वजन") का उपयोग करके बनाया गया है, जो कि स्व-पर्यवेक्षित का उपयोग करके विकिपीडिया कॉर्पस और कॉमन क्रॉल जैसे निगमों द्वारा प्रदान किए गए खरबों टोकन (शब्दों के हिस्से) वाले बड़ी मात्रा में गैर-लेबल वाले पाठों की बड़े पैमाने पर समानांतर प्रसंस्करण के कारण अपेक्षाकृत कम समय में कई जीपीयू पर (पूर्व) प्रशिक्षित किया जाता है। सीखना या अर्ध-पर्यवेक्षित शिक्षण, https://analyticsindiamag.com/self-supervised-learning-vs-semi-supervised-learning-how-they-differ/ Self-Supervised Learning Vs Semi-Supervised Learning: How They Differ Goled Shraddha May 7, 2021 Analytics India Magazine जिसके परिणामस्वरूप संभाव्यता वितरण के साथ एक टोकनयुक्त शब्दावली होती है। एलएलएम को अतिरिक्त जीपीयू का उपयोग करके उन्नत किया जा सकता है ताकि मॉडल को बिना लेबल वाले पाठों की विशाल मात्रा पर और भी अधिक मापदंडों के साथ प्रशिक्षित किया जा सके। 2304.00612 cs.CL Samuel R. Bowman Eight Things to Know about Large Language Models ट्रांसफार्मर एल्गोरिथ्म का आविष्कार, या तो यूनिडायरेक्शनल (जैसे कि जीपीटी मॉडल द्वारा उपयोग किया जाता है) या द्विदिशात्मक (जैसे कि बीईआरटी मॉडल द्वारा उपयोग किया जाता है), ऐसे बड़े पैमाने पर समानांतर प्रसंस्करण की अनुमति देता है। https://openai.com/blog/better-language-models/ Better Language Models and Their Implications 2019-02-14 OpenAI https://web.archive.org/web/20201219132206/https://openai.com/blog/better-language-models/ 2020-12-19 2019-08-25 उपरोक्त सभी के कारण, विशिष्ट कार्यों के लिए अधिकांश पुराने (विशेष) पर्यवेक्षित मॉडल पुराने हो गए। एक अंतर्निहित तरीके से, एलएलएम ने मानव भाषा निगम में निहित वाक्यविन्यास, शब्दार्थ और "ऑन्टोलॉजी" के बारे में एक सन्निहित ज्ञान प्राप्त किया है, लेकिन निगम में मौजूद अशुद्धियों और पूर्वाग्रहों के बारे में भी। उल्लेखनीय उदाहरणों में ओपन एआई के जीपीटी मॉडल (उदाहरण के लिए, जीपीटी-3.5 और जीपीटी-4, चैटजीपीटी में प्रयुक्त), गूगल का फिल्म (बार्ड में प्रयुक्त), और मेटा का ल्लामा, साथ ही ब्लूम, एर्नी 3.0 टाइटन और क्लॉड शामिल हैं। इतिहास पूर्ववर्ती एलएलएम का मूल विचार, जो कि यादृच्छिक भार के साथ ब्लैक बॉक्स के रूप में एक तंत्रिका नेटवर्क के साथ शुरू करना है, एक सरल दोहराव वास्तुकला का उपयोग करना और इसे एक बड़े भाषा कोष पर (पूर्व) प्रशिक्षित करना, 2010 तक संभव नहीं था जब जीपीयू का उपयोग किया गया था बड़े पैमाने पर समानांतर प्रसंस्करण को सक्षम किया, जिसने धीरे-धीरे तार्किक एआई दृष्टिकोण को बदल दिया है जो प्रतीकात्मक कार्यक्रमों पर निर्भर है। Chomsky N. September 1956 Three models for the description of language https://ieeexplore.ieee.org/document/1056813 IRE Transactions on Information Theory 2 3 113–124 10.1109/TIT.1956.1056813 2168-2712 Winograd Terry 1972-01-01 Understanding natural language https://dx.doi.org/10.1016/0010-0285%2872%2990002-3 Cognitive Psychology en 3 1 1–191 10.1016/0010-0285(72)90002-3 0010-0285 The Logical Problem of Language Acquisition The MIT Press 1981 978-0-262-52389-9 Baker C. L. English McCarthy John J. एलएलएम के अग्रदूतों में एल्मन नेटवर्क शामिल था, Elman Jeffrey L. March 1990 Finding Structure in Time http://doi.wiley.com/10.1207/s15516709cog1402_1 Cognitive Science en 14 2 179–211 10.1207/s15516709cog1402_1 जिसमें एक आवर्ती नेटवर्क को "कुत्ता आदमी का पीछा करता है" जैसे सरल वाक्यों पर प्रशिक्षित किया गया था। फिर, प्रत्येक शब्द को एक वेक्टर (इसका 'आंतरिक प्रतिनिधित्व') में बदलने के लिए (पूर्व-)प्रशिक्षित मॉडल का उपयोग किया गया था। इन वैक्टरों को एक पेड़ के रूप में निकटता से एकत्रित किया गया था। तब पेड़ में एक संरचना पाई गई। क्रिया और संज्ञा प्रत्येक एक बड़े समूह से संबंधित थे। संज्ञा समूह के भीतर, दो समूह होते हैं: निर्जीव और चेतन। और इसी तरह। 1950 के दशक में, बड़े पैमाने पर समानांतर प्रसंस्करण को सक्षम करने वाले आधुनिक जीपीयू के बिना, एक सरल दोहरावदार वास्तुकला द्वारा प्राकृतिक भाषा सीखने का विचार सिर्फ एक विचार बनकर रह गया। Shannon C. E. January 1951 Prediction and Entropy of Printed English http://dx.doi.org/10.1002/j.1538-7305.1951.tb01366.x Bell System Technical Journal 30 1 50–64 10.1002/j.1538-7305.1951.tb01366.x 0005-8580 Miller George A. Finitary Models of Language Users 1963 https://philpapers.org/rec/MILFMO 2–419 Luce D. Handbook of Mathematical Psychology John Wiley & Sons. 2023-06-27 Chomsky Noam बाद में 1990 के दशक में, सांख्यिकीय मशीन अनुवाद के लिए आईबीएम संरेखण मॉडल Brown Peter F. 1993 The mathematics of statistical machine translation: Parameter estimation Computational Linguistics 19 263–311 ने एलएलएम की भविष्य की सफलता की घोषणा की। http://mlg.eng.cam.ac.uk/yarin/PDFs/PY-IBM_presentation.pdf A Systematic Bayesian Treatment of the IBM Alignment Models Gal Yarin Blunsom Phil 12 June 2013 University of Cambridge https://web.archive.org/web/20160304071924/http://mlg.eng.cam.ac.uk/yarin/PDFs/PY-IBM_presentation.pdf 4 मार्च 2016 26 October 2015 bot: unknown एक प्रारंभिक कार्य जो 2001 में शब्दों के स्पष्टीकरण (जैसे कि "तब" और "से" में अंतर करना) के लिए इंटरनेट से निकाले गए संग्रह का उपयोग करता है। इसमें 1 अरब शब्द के कोष का उपयोग किया गया था, जिसे उस समय बहुत बड़ा माना जाता था। Banko Michele Brill Eric 2001 Scaling to very very large corpora for natural language disambiguation http://dx.doi.org/10.3115/1073012.1073017 Proceedings of the 39th Annual Meeting on Association for Computational Linguistics - ACL '01 Morristown, NJ, USA Association for Computational Linguistics 26–33 10.3115/1073012.1073017 ट्रांसफार्मर ढांचे के लिए लीड-अप ट्रांसफॉर्मर (Transformer) कृत्रिम बुद्धिमत्ता में प्रयुक्त होने वाला एक मशीन लर्निंग मॉडल है। यह प्राकृतिक भाषा संसाधन के लिए विशेष रूप से डिज़ाइन किया गया है। शुरुआती "बड़े" भाषा मॉडल दीर्घकालिक अल्पकालिक मेमोरी (एलएसटीएम) (1997) जैसे आवर्ती आर्किटेक्चर के साथ बनाए गए थे। एलेक्सनेट (2012) द्वारा छवि पहचान के लिए बड़े तंत्रिका नेटवर्क की प्रभावशीलता का प्रदर्शन करने के बाद, शोधकर्ताओं ने अन्य कार्यों के लिए बड़े तंत्रिका नेटवर्क को लागू किया। 2014 में, दो मुख्य तकनीकें प्रस्तावित की गईं। Seq2seq मॉडल (380 मिलियन पैरामीटर) ने मशीनी अनुवाद करने के लिए दो LSTM का उपयोग किया, Sutskever Ilya Vinyals Oriol Le Quoc V 2014 Sequence to Sequence Learning with Neural Networks https://proceedings.neurips.cc/paper_files/paper/2014/hash/a14ac55a4f27472c5d894ec1c3c743d2-Abstract.html Advances in Neural Information Processing Systems Curran Associates, Inc. 27 1409.3215 19 जुलाई 2023 12 जुलाई 2024 https://web.archive.org/web/20240712220003/https://proceedings.neurips.cc/paper_files/paper/2014/hash/a14ac55a4f27472c5d894ec1c3c743d2-Abstract.html dead और उसी दृष्टिकोण का उपयोग Cho Kyunghyun van Merrienboer Bart Bahdanau Dzmitry Bengio Yoshua 2014 On the Properties of Neural Machine Translation: Encoder–Decoder Approaches http://dx.doi.org/10.3115/v1/w14-4012 Proceedings of SSST-8, Eighth Workshop on Syntax, Semantics and Structure in Statistical Translation Stroudsburg, PA, USA Association for Computational Linguistics 103–111 10.3115/v1/w14-4012 (130 मिलियन पैरामीटर) में किया गया था लेकिन एक सरलीकृत वास्तुकला ( जीआरयू ) के साथ। ध्यान तंत्र को 2014 के पेपर में बहदानौ एट द्वारा प्रस्तावित किया गया था। अल., 1409.0473 cs.CL Dzmitry Bahdanau Kyunghyun Cho Neural Machine Translation by Jointly Learning to Align and Translate 2014-09-01 जहां दो LSTM के बीच में एक "ध्यान तंत्र" जोड़कर एक seq2seq मॉडल में सुधार किया गया था। यह "एडिटिव अटेंशन" है, जो ट्रांसफॉर्मर की तरह समान अटेंशन मैकेनिज्म (स्केल्ड "डॉट प्रोडक्ट अटेंशन") नहीं है, लेकिन यह एक समान कार्य पूरा करता है। Vaswani Ashish Shazeer Noam Parmar Niki Uszkoreit Jakob Jones Llion Gomez Aidan N Kaiser Łukasz Polosukhin Illia 2017 Attention is All you Need https://proceedings.neurips.cc/paper_files/paper/2017/hash/3f5ee243547dee91fbd053c1c4a845aa-Abstract.html Advances in Neural Information Processing Systems Curran Associates, Inc. 30 2016 में, गूगल अनुवाद ने अपनी तकनीक को सांख्यिकीय मशीन अनुवाद से तंत्रिका मशीन अनुवाद में बदल दिया। यह LSTM और ध्यान के साथ एक seq2seq था। 10 वर्षों में निर्मित पिछली प्रणाली की तुलना में प्रदर्शन के उच्च स्तर तक पहुँचने में उन्हें 9 महीने लगे। https://www.nytimes.com/2016/12/14/magazine/the-great-ai-awakening.html The Great A.I. Awakening Lewis-Kraus Gideon 2016-12-14 The New York Times 2023-06-22 https://web.archive.org/web/20230524052626/https://www.nytimes.com/2016/12/14/magazine/the-great-ai-awakening.html 24 मई 2023 en-US 0362-4331 bot: unknown 1609.08144 cs.CL Yonghui Wu Mike Schuster Google's Neural Machine Translation System: Bridging the Gap between Human and Machine Translation 2016-09-01 2017 का पेपर "आपको केवल ध्यान देने की आवश्यकता है" बहदानौ एट द्वारा 2014 के पेपर से ध्यान तंत्र को अलग कर दिया। अल., 1409.0473 cs.CL Dzmitry Bahdanau Kyunghyun Cho Neural Machine Translation by Jointly Learning to Align and Translate 2014-09-01Bahdanau, Dzmitry; Cho, Kyunghyun; Bengio, Yoshua (2014-09-01). "Neural Machine Translation by Jointly Learning to Align and Translate". arXiv:1409.0473 [cs.CL]. और ध्यान तंत्र के चारों ओर ट्रांसफार्मर वास्तुकला का निर्माण किया। जबकि seq2seq मॉडल को सभी आवर्ती नेटवर्क की तरह एक समय में एक इनपुट अनुक्रम को संसाधित करना होता है, ट्रांसफॉर्मर आर्किटेक्चर को अनुक्रम पर समानांतर में चलाया जा सकता है। यह बहुत बड़े मॉडलों को प्रशिक्षित और उपयोग करने की अनुमति देता है। बर्ट और जीपीटी जबकि विभिन्न नामों वाले कई मॉडल हैं, अधिकांश में अंतर्निहित आर्किटेक्चर दो प्रकारों में से एक है: बीईआरटी (2018) 1810.04805v2 cs.CL Jacob Devlin Ming-Wei Chang BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 11 October 2018 एक द्विदिश ट्रांसफार्मर है, जबकि जीपीटी (2018+) https://openai.com/research/language-unsupervised Improving language understanding with unsupervised learning June 11, 2018 openai.com en-US https://web.archive.org/web/20230318210736/https://openai.com/research/language-unsupervised 2023-03-18 2023-03-18 finetune-transformer-lm June 11, 2018 https://github.com/openai/finetune-transformer-lm OpenAI 2023-05-01 यूनिडायरेक्शनल ("ऑटोरेग्रेसिव") हैं ट्रांसफार्मर। ये 2023 तक के मुख्य आर्किटेक्चर हैं। शब्द की उत्पत्ति और असंबद्धता जबकि लार्ज लैंग्वेज मॉडल्स का शब्द 2018 के आसपास ही उभरा है, इसने 2019 और 2020 में क्रमशः डिस्टिलबर्ट 1910.01108 cs.CL Victor Sanh Lysandre Debut DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter? 2019-10-02 और स्टोकेस्टिक पैरेट्स Virtual Event, Canada पेपर जारी होने के साथ दृश्यता प्राप्त की। दोनों ने "बड़े पैमाने पर पूर्व-प्रशिक्षित मॉडल" पर ध्यान केंद्रित किया, एलएलएम के उदाहरण के रूप में बीईआरटी परिवार का हवाला देते हुए, 110एम पैरामीटर से शुरू किया और 340एम पैरामीटर रेंज में मॉडल को "बहुत बड़े एलएम" के रूप में संदर्भित किया। शायद आश्चर्यजनक रूप से, दोनों प्री-ट्रांसफॉर्मर आरएनएन-आधारित ईएलएमओ - 2018 आर्किटेक्चर का हवाला देते हैं जिसने बीईआरटी को प्रेरित किया - पहले एलएलएम के रूप में, मापदंडों की संख्या (94M), साथ ही प्रीट्रेनिंग डेटासेट (> 1 बी टोकन) का आकार दिया। 1802.05365 cs.CL Deep contextualized word representations 2018 तुलनीय पैरामीटर आकार के बावजूद, छोटे प्रीट्रेनिंग डेटासेट (आमतौर पर 100M टोकन रेंज में अनुमानित) के कारण मूल ट्रांसफार्मर को आमतौर पर एलएलएम नहीं माना जाता है। कुल मिलाकर, एलएलएम मॉडल के प्रदर्शन में ~100एम पैरामीटर से 500बी+ पैरामीटर तक सुचारू स्केलिंग और बहुभाषी अनुवाद, अंकगणित, या प्रोग्रामिंग कोड संरचना जैसी उभरती क्षमताओं की प्रगतिशील अनलॉकिंग के कारण, सभी पोस्ट-ईएलएमओ मॉडल को शोधकर्ताओं द्वारा एलएलएम के रूप में संदर्भित किया जाता है। . Ganguli Deep Hernandez Danny 2022 ACM Conference on Fairness, Accountability, and Transparency ACM 2022-06-20 1747–1764 10.1145/3531146.3533229 2001.08361 cs.LG Jared Kaplan Sam McCandlish Scaling Laws for Neural Language Models 2203.15556 cs.CL Jordan Hoffmann Sebastian Borgeaud Training Compute-Optimal Large Language Models 2204.02311 cs.CL Aakanksha Chowdhery Sharan Narang PaLM: Scaling Language Modeling with Pathways भाषाई आधार संज्ञानात्मक भाषाविज्ञान प्राकृतिक भाषा प्रसंस्करण के माध्यम से मन की स्थिति को मापने के लिए एक वैज्ञानिक प्रथम सिद्धांत दिशा प्रदान करता है Kjell 2019 Semantic measures: Using natural language processing to measure, differentiate, and describe psychological constructs https://www.researchgate.net/publication/326141366 Psychological Methods 24 1 92–115 10.1037/met0000191 29963879 ताकि कंप्यूटर को पाठ और दस्तावेजों की सामग्री को "समझने" में सक्षम बनाया जा सके, जिसमें उनके भीतर भाषा की प्रासंगिक बारीकियां भी शामिल हैं। एनएलपी का विकासात्मक प्रक्षेपवक्र, जिसे संज्ञानात्मक एनएलपी के रूप में जाना जाता है, बुद्धिमान व्यवहार और प्राकृतिक भाषा की स्पष्ट समझ के अनुकरण के लिए एक एकात्मक भाषा मॉडल के रूप में आधार तैयार करता है। मॉडल का विशेष रूप विश्लेषण किए जाने वाले टोकन के पहले और बाद में प्रस्तुत किए गए टोकन के आधार पर एक वेक्टर डेटाबेस बनाने के लिए पाठ, वाक्य, वाक्यांश या शब्द के एक ब्लॉक को एक टोकन के रूप में मानता है। इसके सामान्यीकृत रूप में एक टोकन को गैर-पाठ्य अनुप्रयोगों के लिए किसी भी प्रासंगिक रूप से प्रासंगिक प्रतीक जैसे पिक्सेल के समूह, गणितीय प्रतीकों, कोडिंग निर्माण, आणविक सूत्र आदि द्वारा प्रतिस्थापित किया जा सकता है। 2304.15004 cs.AI Rylan Schaeffer Brando Miranda Are Emergent Abilities of Large Language Models a Mirage? 2023-04-01 मॉडल संरचना अंगूठाकार|400x400पिक्सेल|ट्रांसफार्मर मॉडल संरचना बड़े भाषा मॉडल में आमतौर पर ट्रांसफॉर्मर आर्किटेक्चर का उपयोग किया जाता है, जो 2018 के बाद से अनुक्रमिक डेटा के लिए मानक गहन शिक्षण तकनीक बन गया है। Manning Christopher D. Christopher D. Manning 2022 Human Language Understanding & Reasoning https://www.amacad.org/publication/human-language-understanding-reasoning Daedalus 151 2 127–138 10.1162/daed_a_01905 वास्तुकला की एक वैकल्पिक पंक्ति विशेषज्ञों का मिश्रण (एमओई) है, जिसका उपयोग अक्सर Google द्वारा विकसित एआई मॉडल में किया जाता है, जो कम-गेटेड एमओई (2017) से शुरू होता है, 1701.06538 cs.LG Noam Shazeer Azalia Mirhoseini Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer 2017-01-01 और जीशर्ड (2021) 2006.16668 cs.CL Dmitry Lepikhin HyoukJoong Lee GShard: Scaling Giant Models with Conditional Computation and Automatic Sharding 2021-01-12 en और जीएलएएम तक आगे बढ़ता है। (2022)। सभी ट्रांसफार्मर के प्राथमिक घटक समान होते हैं: टोकनाइज़र, जो टेक्स्ट को मशीन-पठनीय प्रतीकों में परिवर्तित करते हैं जिन्हें टोकन कहा जाता है एंबेडिंग परतें, जो मशीन-पठनीय प्रतीकों को शब्दार्थ की दृष्टि से सार्थक अभ्यावेदन में परिवर्तित करती हैं ट्रांसफार्मर परतें, जो मॉडलों की तर्क क्षमताओं को पूरा करती हैं ट्रांसफार्मर की परतें दो प्रकार की होती हैं जिन्हें एनकोडर और डिकोडर के नाम से जाना जाता है। जबकि मूल कागज से ट्रांसफार्मर एनकोडर परतों और डिकोडर परतों दोनों से बना था, बाद के काम ने एनकोडर-केवल आर्किटेक्चर ( बीईआरटी ) और डिकोडर-केवल आर्किटेक्चर ( जीपीटी ) का भी पता लगाया है। जबकि तीनों के अपने फायदे और उपयोग हैं, बड़े पैमाने पर प्रशिक्षण के लिए काफी अधिक कुशल होने के कारण डिकोडर-केवल मॉडल बहुत बड़े पैमाने पर प्रमुख रूप हैं। टोकनीकरण(टोकनाइज़ेसन) एलएलएम गणितीय कार्य हैं जिनके इनपुट और आउटपुट संख्याओं की सूची हैं। नतीजतन, शब्दों को संख्याओं में परिवर्तित किया जाना चाहिए। सामान्य तौर पर, एलएलएम एक अलग टोकननाइज़र का उपयोग करता है। एक टोकनाइज़र टेक्स्ट और पूर्णांकों की सूचियों के बीच मैप करता है। एलएलएम प्रशिक्षित होने से पहले टोकननाइज़र को आम तौर पर पहले संपूर्ण प्रशिक्षण डेटासेट के लिए अनुकूलित किया जाता है, फिर फ़्रीज़ किया जाता है । एक सामान्य विकल्प बाइट जोड़ी एन्कोडिंग है। टोकननाइज़र का एक अन्य कार्य टेक्स्ट कम्प्रेशन है, जो गणना को बचाता है। सामान्य शब्द या वाक्यांश जैसे "कहां है" को 7 अक्षरों के बजाय एक टोकन में एन्कोड किया जा सकता है। ओपनएआई जीपीटी श्रृंखला एक टोकननाइज़र का उपयोग करती है जहां 1 टोकन सामान्य अंग्रेजी पाठ में लगभग 4 अक्षरों या लगभग 0.75 शब्दों को मैप करता है। https://platform.openai.com/ OpenAI API platform.openai.com en https://web.archive.org/web/20230423211308/https://platform.openai.com/tokenizer 23 अप्रैल 2023 2023-04-30 bot: unknown असामान्य अंग्रेजी पाठ कम पूर्वानुमानित है, इस प्रकार कम संपीड़ित है, इस प्रकार एन्कोड करने के लिए अधिक टोकन की आवश्यकता होती है। टोकनाइज़र मनमाना पूर्णांक आउटपुट नहीं कर सकता। वे आम तौर पर श्रेणी में केवल पूर्णांक ही आउटपुट करते हैं , कहाँ इसका शब्दावली आकार कहा जाता है। कुछ टोकनाइज़र मनमाने पाठ को संभालने में सक्षम हैं (आम तौर पर सीधे यूनिकोड पर काम करके), लेकिन कुछ नहीं करते हैं। अन-एन्कोडेबल टेक्स्ट का सामना करते समय, एक टोकननाइज़र एक विशेष टोकन (अक्सर 0) आउटपुट करेगा जो "अज्ञात टेक्स्ट" का प्रतिनिधित्व करता है। इसे अक्सर ऐसे लिखा जाता है , जैसे कि बीईआरटी पेपर में। आमतौर पर इस्तेमाल किया जाने वाला एक और विशेष टोकन है (अक्सर 1), "पैडिंग" के लिए। इसका उपयोग इसलिए किया जाता है क्योंकि एलएलएम का उपयोग आम तौर पर एक समय में पाठ के बैचों पर किया जाता है, और ये पाठ समान लंबाई में एन्कोड नहीं होते हैं। चूंकि एलएलएम के लिए आम तौर पर इनपुट की आवश्यकता एक ऐसी सरणी होती है जो दांतेदार न हो, छोटे एन्कोडेड टेक्स्ट को तब तक पैड किया जाना चाहिए जब तक कि वे सबसे लंबे टेक्स्ट की लंबाई से मेल न खा जाएं। उत्पादन एलएलएम का आउटपुट इसकी शब्दावली पर संभाव्यता वितरण है। इसे आमतौर पर इस प्रकार कार्यान्वित किया जाता है: एक पाठ प्राप्त करने पर, एलएलएम का बड़ा हिस्सा एक वेक्टर आउटपुट करता है कहाँ इसका शब्दावली आकार (ऊपर परिभाषित) है। सदिश प्राप्त करने के लिए सॉफ्टमैक्स फ़ंक्शन के माध्यम से पारित किया जाता है . इस प्रक्रिया में, वेक्टर इसे आमतौर पर अननॉर्मलाइज़्ड लॉगिट वेक्टर और वेक्टर कहा जाता है संभाव्यता वेक्टर कहा जाता है. वेक्टर के बाद से है प्रविष्टियाँ, सभी गैर-नकारात्मक, और उनका योग 1 है, हम इसे संभाव्यता वितरण के रूप में व्याख्या कर सकते हैं - यानी, यह एलएलएम की शब्दावली पर एक संभाव्यता वितरण है। ध्यान दें कि सॉफ्टमैक्स फ़ंक्शन को गणितीय रूप से परिभाषित किया गया है जिसमें कोई पैरामीटर भिन्न नहीं है। फलस्वरूप यह प्रशिक्षित नहीं है। प्रसंग विंडो एलएलएम की संदर्भ विंडो टोकन के सबसे लंबे अनुक्रम की लंबाई है जिसका उपयोग एलएलएम टोकन उत्पन्न करने के लिए कर सकता है। यदि एलएलएम को संदर्भ विंडो से अधिक लंबे अनुक्रम पर टोकन उत्पन्न करना है, तो उसे या तो अनुक्रम को संदर्भ विंडो तक छोटा करना होगा, या कुछ एल्गोरिदमिक संशोधनों का उपयोग करना होगा। एलएलएम की संदर्भ विंडो 1,000 (1k) से 10k के क्रम पर होती है। विशेष रूप से, OpenAI जून 2023 तक 4k से 16k तक संदर्भ विंडो के साथ GPT-3.5 प्रदान करता है https://platform.openai.com/ OpenAI API platform.openai.com en https://archive.today/20230620140700/https://platform.openai.com/docs/models/gpt-3-5 20 जून 2023 2023-06-20 bot: unknown प्रशिक्षण पूर्व-प्रशिक्षण में, एलएलएम को या तो यह अनुमान लगाने के लिए प्रशिक्षित किया जा सकता है कि खंड कैसे जारी रहेगा, या अपने प्रशिक्षण डेटासेट से एक खंड को देखते हुए, खंड में क्या कमी है। Zaib Munazza Sheng Quan Z. Emma Zhang Wei 4 February 2020 A Short Survey of Pre-trained Language Models for Conversational AI-A New Age in NLP https://www.researchgate.net/publication/338931711 Proceedings of the Australasian Computer Science Week Multiconference 1–4 2104.10810 10.1145/3373017.3373028 9781450376976 यह या तो हो सकता है ऑटोरेग्रेसिव (यानी यह भविष्यवाणी करना कि सेगमेंट कैसे जारी रहेगा, जिस तरह से जीपीटी इसे करते हैं): उदाहरण के लिए एक सेगमेंट दिया गया है "मुझे खाना पसंद है", मॉडल "आइसक्रीम" की भविष्यवाणी करता है, या " नकाबपोश " (अर्थात खंड से गायब हिस्सों को भरना, जिस तरह से "बीईआरटी" https://web.stanford.edu/~jurafsky/slp3/ed3book_jan72023.pdf Speech and Language Processing Jurafsky Dan Martin James H. 7 January 2023 3rd edition draft 24 May 2022 करता है): उदाहरण के लिए, एक खंड दिया गया है "मुझे [__] [__] क्रीम पसंद है", मॉडल भविष्यवाणी करता है कि " खाओ" और "बर्फ" गायब हैं। एलएलएम को सहायक कार्यों पर प्रशिक्षित किया जा सकता है जो डेटा वितरण की उनकी समझ का परीक्षण करते हैं, जैसे कि नेक्स्ट सेंटेंस प्रेडिक्शन (एनएसपी), जिसमें वाक्यों के जोड़े प्रस्तुत किए जाते हैं और मॉडल को भविष्यवाणी करनी चाहिए कि क्या वे प्रशिक्षण कॉर्पस में लगातार दिखाई देते हैं। आमतौर पर, एलएलएम को एक विशिष्ट हानि फ़ंक्शन को कम करने के लिए प्रशिक्षित किया जाता है: प्रति टोकन औसत नकारात्मक लॉग संभावना (जिसे क्रॉस-एन्ट्रॉपी हानि भी कहा जाता है)। उदाहरण के लिए, यदि एक ऑटोरेग्रेसिव मॉडल, "मुझे खाना पसंद है" दिया गया है, तो संभाव्यता वितरण की भविष्यवाणी करता है तो इस टोकन पर नकारात्मक लॉग संभावना हानि है . प्रशिक्षण के दौरान, प्रशिक्षण को स्थिर करने के लिए नियमितीकरण हानि का भी उपयोग किया जाता है। हालाँकि नियमितीकरण हानि का उपयोग आमतौर पर परीक्षण और मूल्यांकन के दौरान नहीं किया जाता है। केवल नकारात्मक लॉग संभावना के अलावा और भी कई मूल्यांकन मानदंड हैं। विवरण के लिए नीचे अनुभाग देखें. डेटासेट का आकार और संपीड़न 2018 में, 985 मिलियन शब्दों वाले बुककॉर्पस का उपयोग ओपन एआई के पहले मॉडल, जीपीटी-1 के लिए एक प्रशिक्षण डेटासेट के रूप में किया गया था। 2015 IEEE International Conference on Computer Vision (ICCV) Zhu Yukun Kiros Ryan Zemel Rich Salakhutdinov Ruslan Urtasun Raquel Torralba Antonio Fidler Sanja December 2015 2015 IEEE International Conference on Computer Vision (ICCV) 978-1-4673-8391-2 19–27 Aligning Books and Movies: Towards Story-Like Visual Explanations by Watching Movies and Reading Books 1506.06724 10.1109/ICCV.2015.11 11 April 2023 https://www.cv-foundation.org/openaccess/content_iccv_2015/papers/Zhu_Aligning_Books_and_ICCV_2015_paper.pdf उसी वर्ष, बुककॉर्पस और अंग्रेजी विकिपीडिया के संयोजन, कुल 3.3 बिलियन शब्दों का उपयोग BERT के लिए एक प्रशिक्षण डेटासेट के रूप में किया गया था। तब से, खरबों टोकन वाले कॉर्पोरा का उपयोग किया गया, जिससे पिछले डेटासेट में परिमाण के आधार पर वृद्धि हुई। आमतौर पर, एलएलएम को पूर्ण या अर्ध-सटीक फ्लोटिंग पॉइंट नंबरों (फ्लोट32 और फ्लोट16) के साथ प्रशिक्षित किया जाता है। एक फ्लोट16 में 16 बिट या 2 बाइट्स होते हैं, और इसलिए एक अरब पैरामीटर के लिए 2 गीगाबाइट की आवश्यकता होती है। सबसे बड़े मॉडल में आमतौर पर 100 बिलियन पैरामीटर होते हैं, जिन्हें लोड करने के लिए 200 गीगाबाइट की आवश्यकता होती है, जो उन्हें अधिकांश उपभोक्ता इलेक्ट्रॉनिक्स की सीमा से बाहर रखता है। प्रशिक्षण के बाद परिमाणीकरण Nagel Markus Amjad Rana Ali Baalen Mart Van Louizos Christos Blankevoort Tijmen 2020-11-21 Up or Down? Adaptive Rounding for Post-Training Quantization https://proceedings.mlr.press/v119/nagel20a.html Proceedings of the 37th International Conference on Machine Learning en PMLR 7197–7206 का उद्देश्य प्रशिक्षित मॉडल के अधिकांश प्रदर्शन को संरक्षित करते हुए उसके मापदंडों की सटीकता को कम करके स्थान की आवश्यकता को कम करना है। 1802.05668 cs.NE Antonio Polino Razvan Pascanu Model compression via distillation and quantization 2018-02-01 2210.17323 cs.LG Elias Frantar Saleh Ashkboos GPTQ: Accurate Post-Training Quantization for Generative Pre-trained Transformers 2022-10-01 परिमाणीकरण का सबसे सरल रूप सभी संख्याओं को बिट्स की एक निश्चित संख्या में छोटा कर देता है। प्रति परत एक अलग परिमाणीकरण कोडबुक का उपयोग करके इसे बेहतर बनाया जा सकता है। विशेष रूप से महत्वपूर्ण मापदंडों ("बाहरी वजन") के लिए उच्च परिशुद्धता के साथ, विभिन्न मापदंडों पर अलग-अलग परिशुद्धता लागू करके और सुधार किया जा सकता है। 2306.03078 cs.CL Tim Dettmers Ruslan Svirschevski SpQR: A Sparse-Quantized Representation for Near-Lossless LLM Weight Compression 2023-06-01 जबकि क्वांटाइज़्ड मॉडल आम तौर पर जमे हुए होते हैं, और केवल पूर्व-क्वांटाइज़्ड मॉडल को ही फाइनट्यून किया जाता है, क्वांटाइज़्ड मॉडल को अभी भी फाइनट्यून किया जा सकता है। 2305.14314 cs.LG Tim Dettmers Artidoro Pagnoni QLoRA: Efficient Finetuning of Quantized LLMs 2023-05-01 प्रशिक्षण का मूल्य सॉफ्टवेयर और हार्डवेयर में प्रगति ने 2020 के बाद से लागत को काफी हद तक कम कर दिया है, जैसे कि 2023 में 12-बिलियन-पैरामीटर एलएलएम कम्प्यूटेशनल लागत 72,300 ए100-जीपीयू -घंटे है, जबकि 2020 में 1.5-बिलियन-पैरामीटर एलएलएम के प्रशिक्षण की लागत (जो कि 2020 में अत्याधुनिक से दो परिमाण कम था) $80 हजार और $1.6 मिलियन के बीच था। https://techcrunch.com/2022/04/28/the-emerging-types-of-language-models-and-why-they-matter/ The emerging types of language models and why they matter Wiggers Kyle 28 April 2022 TechCrunch 2004.08900 cs.CL Or Sharir Barak Peleg The Cost of Training NLP Models: A Concise Overview 2304.01373 cs.CL Stella Biderman Hailey Schoelkopf Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling April 2023 2020 के बाद से, तेजी से बड़े मॉडलों में बड़ी रकम का निवेश किया गया। उदाहरण के लिए, 2019 में GPT-2 (यानी 1.5-बिलियन-पैरामीटर मॉडल) के प्रशिक्षण की लागत $50,000 थी, जबकि 2022 में PaLM (यानी 540-बिलियन-पैरामीटर मॉडल) के प्रशिक्षण की लागत $8 मिलियन थी। https://www.theverge.com/23667752/ai-progress-2023-report-stanford-corporate-control AI is entering an era of corporate control Vincent James 3 April 2023 The Verge 19 June 2023 ट्रांसफार्मर-आधारित एलएलएम के लिए, प्रशिक्षण लागत अनुमान लागत से बहुत अधिक है। एक टोकन पर प्रशिक्षण के लिए प्रति पैरामीटर 6 एफएलओपी की लागत आती है, जबकि एक टोकन पर अनुमान लगाने के लिए प्रति पैरामीटर 1 से 2 एफएलओपी की लागत आती है। 2001.08361 cs.LG Jared Kaplan Sam McCandlish Scaling Laws for Neural Language Models डाउनस्ट्रीम कार्यों के लिए आवेदन 2018 और 2020 के बीच, किसी विशिष्ट कार्य के लिए एलएलएम का उपयोग करने की मानक विधि अतिरिक्त कार्य-विशिष्ट प्रशिक्षण के साथ मॉडल को बेहतर बनाना था। इसके बाद ही यह पता चला कि एलएलएम, जैसे जीपीटी-3, विशेष रूप से प्रशिक्षित किए बिना विभिन्न कार्यों को हल कर सकते हैं। इसके बजाय, समान समस्याओं और उनके संबंधित समाधानों के कुछ उदाहरणों का उपयोग करके उन्हें "संकेत" दिया जाना पर्याप्त है। कुछ-शॉट प्रॉम्प्टिंग ने कभी-कभी अनुवाद, प्रश्न उत्तर, करीबी कार्य, स्पष्ट शब्दों और एक वाक्य में एक नए शब्द का उपयोग करने के क्षेत्रों में पुराने फाइन-ट्यूनिंग से भी बेहतर परिणाम दिए हैं। ऐसे संकेतों के निर्माण और अनुकूलन को प्रॉम्प्ट इंजीनियरिंग कहा जाता है। फाइन-ट्यूनिंग से लेकर संकेत(प्रोम्प्ट) देने तक पुराना दृष्टिकोण किसी विशिष्ट समस्या (जैसे भावना विश्लेषण, नामित-इकाई पहचान, या भाषण के भाग की टैगिंग ) को हल करने के उद्देश्य से मौजूदा पूर्व-प्रशिक्षित भाषा मॉडल को फिर से प्रशिक्षित करके (पर्यवेक्षित तरीके से) ठीक करना था। ), जो भाषा मॉडल की अंतिम परत को डाउनस्ट्रीम कार्य के आउटपुट से जोड़ने वाले भार के एक नए सेट को पेश करके प्राप्त किया जाता है। भाषा मॉडल के मूल भार "जमे हुए" हो सकते हैं, जैसे कि उन्हें आउटपुट से जोड़ने वाले भार की केवल नई परत ही प्रशिक्षण के दौरान सीखी जाती है। वैकल्पिक रूप से, मूल वज़न को छोटे अपडेट प्राप्त हो सकते हैं (संभवतः पहले की परतें जमी हुई हों)। नए दृष्टिकोण में जिसे प्रॉम्प्टिंग कहा जाता है और जीपीटी-3 द्वारा लोकप्रिय बनाया गया है, Wei Jason Tay Yi Bommasani Rishi Raffel Colin Zoph Barret Borgeaud Sebastian Yogatama Dani Bosma Maarten Zhou Denny 31 August 2022 Emergent Abilities of Large Language Models https://openreview.net/forum?id=yzkSU5zdwD Transactions on Machine Learning Research en 2835-8856 एक एलएलएम को पूर्णता प्रदान की जाती है ( अनुमान के माध्यम से)। उदाहरण के लिए, कुछ-शॉट प्रॉम्प्टिंग में, प्रॉम्प्ट में समान समस्या-समाधान युग्मों के कुछ उदाहरण शामिल होते हैं। नीचे एक भावना विश्लेषण का उदाहरण दिया गया है, जिसमें फिल्म समीक्षा की भावना को लेबल किया गया है: समीक्षा: यह फिल्म बेकार है। भावना: नकारात्मक समीक्षा: यह फिल्म शानदार है! भावना: यदि मॉडल "सकारात्मक" आउटपुट देता है, तो उसने कार्य को सही ढंग से हल कर लिया है। शून्य-शॉट प्रॉम्प्टिंग में, कोई हल किए गए उदाहरण प्रदान नहीं किए जाते हैं। अनुदेश ट्यूनिंग अक्सर, निर्देश ट्यूनिंग आवश्यक है क्योंकि अन्यथा एक कृत्रिम तंत्रिका नेटवर्क, उपयोगकर्ता के निर्देश के जवाब में "हैमलेट में दर्शाए गए मुख्य विषयों के बारे में एक निबंध लिखें," एक प्रतिक्रिया उत्पन्न कर सकता है जैसे "यदि आप 17 मार्च के बाद निबंध जमा करते हैं, तो आपका कॉर्पस में इस पाठ्य क्रम की आवृत्ति के आधार पर देरी के प्रत्येक दिन के लिए ग्रेड में 10% की कमी की जाएगी। यह केवल निर्देश ट्यूनिंग के माध्यम से है कि मॉडल सीखता है कि विशिष्ट निर्देशों के लिए प्रतिक्रिया में वास्तव में क्या होना चाहिए। अनुदेश ट्यूनिंग के लिए विभिन्न तकनीकों को व्यवहार में लागू किया गया है। एक उदाहरण, "स्व-निर्देश", उदाहरणों के एक प्रशिक्षण सेट पर भाषा मॉडल को ठीक करता है जो स्वयं एलएलएम द्वारा उत्पन्न होता है (मानव-निर्मित उदाहरणों के एक छोटे प्रारंभिक सेट से बूटस्ट्रैप किया गया )। 2212.10560 cs.CL Yizhong Wang Yeganeh Kordi Self-Instruct: Aligning Language Model with Self Generated Instructions 2022 सुदृढीकरण सीखने द्वारा फ़ाइनट्यूनिंग ओपनएआई के इंस्ट्रक्टजीपीटी प्रोटोकॉल में मानव-जनित (त्वरित, प्रतिक्रिया) जोड़े के डेटासेट पर पर्यवेक्षित फाइन-ट्यूनिंग शामिल है, इसके बाद मानव प्रतिक्रिया (आरएलएचएफ) से सुदृढीकरण सीखना, जिसमें एक इनाम मॉडल को मानव प्राथमिकताओं के डेटासेट पर पर्यवेक्षित-सीखा गया था। इस इनाम मॉडल का उपयोग समीपस्थ नीति अनुकूलन द्वारा एलएलएम को प्रशिक्षित करने के लिए किया गया था। 2203.02155 cs.CL Long Ouyang Jeff Wu Training language models to follow instructions with human feedback 2022 उपकरण का उपयोग कुछ ऐसे कार्य हैं, जिन्हें सिद्धांत रूप में, किसी भी एलएलएम द्वारा हल नहीं किया जा सकता है, कम से कम बाहरी टूल या अतिरिक्त सॉफ़्टवेयर के उपयोग के बिना नहीं। ऐसे कार्य का एक उदाहरण उपयोगकर्ता के इनपुट '354 * 139 =' का जवाब देना है, बशर्ते कि एलएलएम को पहले से ही अपने प्रशिक्षण कोष में इस गणना की निरंतरता का सामना नहीं करना पड़ा हो। ऐसे मामलों में, एलएलएम को रनिंग प्रोग्राम कोड का सहारा लेना पड़ता है जो परिणाम की गणना करता है, जिसे बाद में उसकी प्रतिक्रिया में शामिल किया जा सकता है। दूसरा उदाहरण है 'अभी क्या समय हुआ है? यह 'है, जहां एक अलग प्रोग्राम दुभाषिया को कंप्यूटर पर सिस्टम समय प्राप्त करने के लिए एक कोड निष्पादित करने की आवश्यकता होगी, ताकि एलएलएम इसे अपने उत्तर में शामिल कर सके। 2211.10435 cs.CL Luyu Gao Aman Madaan PAL: Program-aided Language Models 2022-11-01 https://reasonwithpal.com/ PAL: Program-aided Language Models reasonwithpal.com 2023-06-12 इस बुनियादी रणनीति को जनरेट किए गए कार्यक्रमों और अन्य नमूनाकरण रणनीतियों के कई प्रयासों से परिष्कृत किया जा सकता है। 2303.09014 cs.CL Bhargavi Paranjape Scott Lundberg ART: Automatic multi-step reasoning and tool-use for large language models 2023-03-01 आम तौर पर, टूल का उपयोग करने के लिए एलएलएम प्राप्त करने के लिए, किसी को टूल-उपयोग के लिए इसे परिष्कृत करना होगा। यदि उपकरणों की संख्या सीमित है, तो फ़ाइनट्यूनिंग केवल एक बार की जा सकती है। यदि टूल की संख्या मनमाने ढंग से बढ़ सकती है, जैसा कि ऑनलाइन एपीआई सेवाओं के साथ होता है, तो एलएलएम को एपीआई दस्तावेज़ पढ़ने और एपीआई को सही ढंग से कॉल करने में सक्षम होने के लिए ठीक किया जा सकता है। 2303.16434 cs.AI Yaobo Liang Chenfei Wu TaskMatrix.AI: Completing Tasks by Connecting Foundation Models with Millions of APIs 2023-03-01 2305.15334 cs.CL Shishir G. Patil Tianjun Zhang Gorilla: Large Language Model Connected with Massive APIs 2023-05-01 उपकरण के उपयोग का एक सरल रूप पुनर्प्राप्ति संवर्धित पीढ़ी है: दस्तावेज़ पुनर्प्राप्ति के साथ एक एलएलएम को बढ़ाना, कभी-कभी वेक्टर डेटाबेस का उपयोग करना। किसी क्वेरी को देखते हुए, सबसे प्रासंगिक दस्तावेज़ पुनर्प्राप्त करने के लिए एक दस्तावेज़ रिट्रीवर को बुलाया जाता है (आमतौर पर पहले क्वेरी और दस्तावेज़ों को वेक्टर में एन्कोड करके मापा जाता है, फिर क्वेरी वेक्टर के यूक्लिडियन मानदंड में निकटतम वेक्टर वाले दस्तावेज़ ढूंढते हैं)। एलएलएम तब क्वेरी और पुनर्प्राप्त दस्तावेज़ दोनों के आधार पर एक आउटपुट उत्पन्न करता है। Lewis Patrick Perez Ethan Piktus Aleksandra Petroni Fabio Karpukhin Vladimir Goyal Naman Küttler Heinrich Lewis Mike Yih Wen-tau 2020 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks https://proceedings.neurips.cc/paper/2020/hash/6b493230205f780e1bc26945df7481e5-Abstract.html Advances in Neural Information Processing Systems Curran Associates, Inc. 33 9459–9474 2005.11401 एजेंसी एलएलएम एक भाषा मॉडल है, जो एक एजेंट नहीं है क्योंकि इसका कोई लक्ष्य नहीं है, लेकिन इसका उपयोग एक बुद्धिमान एजेंट के एक घटक के रूप में किया जा सकता है। Huang Wenlong Abbeel Pieter Pathak Deepak Mordatch Igor 2022-06-28 Language Models as Zero-Shot Planners: Extracting Actionable Knowledge for Embodied Agents https://proceedings.mlr.press/v162/huang22a.html Proceedings of the 39th International Conference on Machine Learning en PMLR 9118–9147 2201.07207 ReAct (Reason+Act; "कारण + अधिनियम") विधि एलएलएम को एक योजनाकार के रूप में उपयोग करते हुए, एलएलएम से एक एजेंट का निर्माण करती है। एलएलएम को "ज़ोर से सोचने" के लिए प्रेरित किया जाता है। विशेष रूप से, भाषा मॉडल को पर्यावरण के पाठ्य विवरण, एक लक्ष्य, संभावित कार्यों की एक सूची और अब तक के कार्यों और टिप्पणियों के रिकॉर्ड के साथ प्रेरित किया जाता है। यह किसी कार्य को उत्पन्न करने से पहले एक या अधिक विचार उत्पन्न करता है, जिसे बाद में वातावरण में क्रियान्वित किया जाता है। 2210.03629 cs.CL Shunyu Yao Jeffrey Zhao ReAct: Synergizing Reasoning and Acting in Language Models 2022-10-01 एलएलएम योजनाकार को दिया गया पर्यावरण का भाषाई विवरण पर्यावरण का वर्णन करने वाले पेपर का LaTeX कोड भी हो सकता है। 2305.15486 cs.AI Yue Wu Shrimai Prabhumoye SPRING: GPT-4 Out-performs RL Algorithms by Studying Papers and Reasoning 24 May 2023 रिफ्लेक्सियन विधि 2303.11366 cs.AI Noah Shinn Federico Cassano Reflexion: Language Agents with Verbal Reinforcement Learning 2023-03-01 एक ऐसे एजेंट का निर्माण करती है जो कई प्रकरणों में सीखता है। प्रत्येक एपिसोड के अंत में, एलएलएम को एपिसोड का रिकॉर्ड दिया जाता है, और "सीखे गए सबक" के बारे में सोचने के लिए प्रेरित किया जाता है, जिससे उसे अगले एपिसोड में बेहतर प्रदर्शन करने में मदद मिलेगी। ये "सीखे गए सबक" अगले एपिसोड में एजेंट को दिए जाते हैं। मोंटे कार्लो ट्री सर्च एलएलएम को रोलआउट अनुमान के रूप में उपयोग कर सकता है। जब एक प्रोग्रामेटिक विश्व मॉडल उपलब्ध नहीं होता है, तो एलएलएम को विश्व मॉडल के रूप में कार्य करने के लिए पर्यावरण के विवरण के साथ भी प्रेरित किया जा सकता है। 2305.14992 cs.CL Shibo Hao Yi Gu Reasoning with Language Model is Planning with World Model 2023-05-01 ओपन-एंडेड अन्वेषण के लिए, एक एलएलएम का उपयोग उनकी "रोचकता" के लिए टिप्पणियों को स्कोर करने के लिए किया जा सकता है, जिसका उपयोग सामान्य (गैर-एलएलएम) सुदृढीकरण सीखने वाले एजेंट को मार्गदर्शन करने के लिए इनाम संकेत के रूप में किया जा सकता है। 2306.01711 cs.AI Jenny Zhang Joel Lehman OMNI: Open-endedness via Models of human Notions of Interestingness 2 June 2023 वैकल्पिक रूप से, यह पाठ्यक्रम सीखने के लिए तेजी से कठिन कार्यों का प्रस्ताव कर सकता है। https://voyager.minedojo.org/ Voyager An Open-Ended Embodied Agent with Large Language Models voyager.minedojo.org 2023-06-09 व्यक्तिगत क्रियाओं को आउटपुट करने के बजाय, एक एलएलएम योजनाकार जटिल क्रिया अनुक्रमों के लिए "कौशल" या फ़ंक्शन का निर्माण भी कर सकता है। कौशल को संग्रहीत किया जा सकता है और बाद में लागू किया जा सकता है, जिससे योजना में अमूर्तता के स्तर को बढ़ाया जा सकता है। एलएलएम-संचालित एजेंट अपने पिछले संदर्भों की दीर्घकालिक स्मृति रख सकते हैं, और स्मृति को रिट्रीवल ऑगमेंटेड जेनरेशन की तरह ही पुनर्प्राप्त किया जा सकता है। ऐसे कई एजेंट सामाजिक रूप से बातचीत कर सकते हैं। 2304.03442 cs.HC Joon Sung Park Joseph C. O'Brien Generative Agents: Interactive Simulacra of Human Behavior 2023-04-01 बहुपद्धतिपरक मल्टीमॉडैलिटी का अर्थ है "कई तौर-तरीके होना", और "मोडैलिटी" का अर्थ है एक प्रकार का इनपुट, जैसे वीडियो, छवि, ऑडियो, टेक्स्ट, प्रोप्रियोसेप्शन, आदि। Kiros Ryan Salakhutdinov Ruslan Zemel Rich 2014-06-18 Multimodal Neural Language Models https://proceedings.mlr.press/v32/kiros14.html Proceedings of the 31st International Conference on Machine Learning en PMLR 595–603 ऐसे कई एआई मॉडल हैं जिन्हें विशेष रूप से एक मोडेलिटी को ग्रहण करने और दूसरे मोडेलिटी को आउटपुट करने के लिए प्रशिक्षित किया गया है, जैसे छवि को लेबल करने के लिए एलेक्सनेट,Krizhevsky Alex Sutskever Ilya Hinton Geoffrey E 2012 ImageNet Classification with Deep Convolutional Neural Networks https://proceedings.neurips.cc/paper/2012/hash/c399862d3b9d6b76c8436e924a68c45b-Abstract.html Advances in Neural Information Processing Systems Curran Associates, Inc. 25 छवि-पाठ से पाठ के लिए दृश्य प्रश्न उत्तर, Antol Stanislaw Agrawal Aishwarya Lu Jiasen Mitchell Margaret Batra Dhruv Zitnick C. Lawrence Parikh Devi 2015 VQA: Visual Question Answering https://openaccess.thecvf.com/content_iccv_2015/html/Antol_VQA_Visual_Question_ICCV_2015_paper.html 2425–2433 और पाठ से पाठ के लिए वाक् पहचान। मल्टीमॉडल एलएलएम का एक समीक्षा लेख है। 2306.13549 cs.CV Shukang Yin Chaoyou Fu A Survey on Multimodal Large Language Models 2023-06-01 एलएलएम से मल्टीमॉडल मॉडल बनाने की एक सामान्य विधि एक प्रशिक्षित एनकोडर के आउटपुट को "टोकनाइज़" करना है। सीधे तौर पर, कोई एक एलएलएम का निर्माण कर सकता है जो छवियों को इस प्रकार समझ सकता है: एक प्रशिक्षित एलएलएम लें, और एक प्रशिक्षित छवि एनकोडर लें . एक छोटा बहुस्तरीय परसेप्ट्रॉन बनाएं , ताकि किसी भी छवि के लिए , पोस्ट-प्रोसेस्ड वेक्टर एन्कोडेड टोकन के समान आयाम हैं। वह एक "छवि टोकन" है। फिर, कोई टेक्स्ट टोकन और इमेज टोकन को इंटरलीव कर सकता है। फिर कंपाउंड मॉडल को एक छवि-पाठ डेटासेट पर परिष्कृत किया जाता है। मॉडल को बेहतर बनाने के लिए इस बुनियादी निर्माण को अधिक परिष्कार के साथ लागू किया जा सकता है। स्थिरता में सुधार के लिए छवि एन्कोडर को फ़्रीज़ किया जा सकता है। 2301.12597 cs.CV Junnan Li Dongxu Li BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models 2023-01-01 फ्लेमिंगो ने टोकनाइजेशन विधि की प्रभावशीलता का प्रदर्शन किया, स्क्रैच से प्रशिक्षित मॉडल की तुलना में दृश्य प्रश्न उत्तर पर बेहतर प्रदर्शन करने के लिए पूर्व-प्रशिक्षित भाषा मॉडल और छवि एनकोडर की एक जोड़ी को ठीक किया। Alayrac Jean-Baptiste Donahue Jeff Luc Pauline Miech Antoine Barr Iain Hasson Yana Lenc Karel Mensch Arthur Millican Katherine 2022-12-06 Flamingo: a Visual Language Model for Few-Shot Learning https://proceedings.neurips.cc/paper_files/paper/2022/hash/960a172bc7fbf0177ccccbb411a7d800-Abstract-Conference.html Advances in Neural Information Processing Systems en 35 23716–23736 2204.14198 Google PaLM मॉडल को टोकननाइजेशन विधि का उपयोग करके मल्टीमॉडल मॉडल PaLM-E में परिष्कृत किया गया और रोबोटिक नियंत्रण पर लागू किया गया। 2303.03378 cs.LG Danny Driess Fei Xia PaLM-E: An Embodied Multimodal Language Model 2023-03-01 छवि इनपुट, 2304.08485 cs.CV Haotian Liu Chunyuan Li Visual Instruction Tuning 2023-04-01 और वीडियो इनपुट की अनुमति देने के लिए टोकननाइजेशन विधि का उपयोग करके LLaMA मॉडल को मल्टीमॉडल भी बना दिया गया है। 2306.02858 cs.CL Hang Zhang Xin Li Video-LLaMA: An Instruction-tuned Audio-Visual Language Model for Video Understanding 2023-06-01 GPT-4 इनपुट के रूप में टेक्स्ट और छवि दोनों का उपयोग कर सकता है, 2303.08774 cs.CL OpenAI GPT-4 Technical Report 2023-03-27 जबकि Google जेमिनी के मल्टीमॉडल होने की उम्मीद है। Pichai Sundar Google Keynote (Google I/O '23) https://www.youtube.com/watch?v=cNfINi5CNbY&t=931s timestamp 15:31 en 2023-07-02 गुण पूर्वप्रशिक्षण डेटासेट(तथ्यसमूह) बड़े भाषा मॉडल (एलएलएम) आम तौर पर बड़ी मात्रा में पाठ्य डेटा पर पूर्व-प्रशिक्षित होते हैं जो विभिन्न प्रकार के डोमेन और भाषाओं में फैले होते हैं। 2305.10403 cs.CL Rohan Anil Andrew M. Dai PaLM 2 Technical Report प्री-ट्रेनिंग डेटा के कुछ प्रसिद्ध स्रोतों में कॉमन क्रॉल, द पाइल, मैसिवटेक्स्ट, https://paperswithcode.com/dataset/massivetext Papers with Code - MassiveText Dataset paperswithcode.com en 2023-04-26 विकिपीडिया और गिटहब शामिल हैं। जबकि अधिकांश ओपन-सोर्स एलएलएम सार्वजनिक रूप से उपलब्ध डेटा का उपयोग करते हैं, निजी डेटा का उपयोग पूर्व-प्रशिक्षण के लिए भी किया जा सकता है। 2303.17564 cs.LG Shijie Wu Ozan Irsoy BloombergGPT: A Large Language Model for Finance प्री-ट्रेनिंग डेटा विभिन्न चरणों के माध्यम से कच्चे पाठ को प्रीप्रोसेस करके प्राप्त किया जाता है, जैसे डी-डुप्लीकेशन, उच्च-विषाक्तता अनुक्रमों को फ़िल्टर करना, निम्न-गुणवत्ता वाले डेटा को त्यागना, और बहुत कुछ। 2104.08758 cs.CL Jesse Dodge Maarten Sap Documenting Large Webtext Corpora: A Case Study on the Colossal Clean Crawled Corpus यह अनुमान लगाया गया है कि भाषा डेटा का स्टॉक सालाना 7% बढ़ता है, और उच्च गुणवत्ता वाला भाषा डेटा 2022 अक्टूबर तक 4.6-17 ट्रिलियन शब्दों के भीतर है। 2211.04325 cs.LG Pablo Villalobos Jaime Sevilla Will we run out of data? An analysis of the limits of scaling datasets in Machine Learning 2022-10-25 एलएलएम में पूर्व-प्रशिक्षण डेटा के व्यापक उपयोग से डेटा संदूषण होता है, 2005.14165 cs.CL Tom B. Brown Benjamin Mann Language Models are Few-Shot Learners जो तब होता है जब मूल्यांकन डेटा को पूर्व-प्रशिक्षण डेटा में शामिल किया जाता है, जिससे बेंचमार्क मूल्यांकन के दौरान मॉडल प्रदर्शन प्रभावित होता है। स्केलिंग कानून और आकस्मिक क्षमताएं तंत्रिका स्केलिंग कानूननिम्नलिखित चार हाइपर-पैरामीटर एलएलएम की विशेषता बताते हैं: (पूर्व-)प्रशिक्षण की लागत ( ), कृत्रिम तंत्रिका नेटवर्क का आकार, जैसे मापदंडों की संख्या (अर्थात् इसकी परतों में न्यूरॉन्स की मात्रा, उनके बीच भार की मात्रा और पूर्वाग्रह), इसके (पूर्व-)प्रशिक्षण डेटासेट का आकार (अर्थात कॉर्पस में टोकन की संख्या, ), (पूर्व)प्रशिक्षण के बाद प्रदर्शन। वे सरल सांख्यिकीय कानूनों से संबंधित हैं, जिन्हें "स्केलिंग कानून" कहा जाता है। एलएलएम के लिए एक विशेष स्केलिंग कानून (" चिन्चिला स्केलिंग ") एक युग के लिए ऑटोरेग्रेसिव रूप से प्रशिक्षित होता है, लॉग-लॉग लर्निंग रेट शेड्यूल के साथ, यह बताता है कि: 2203.15556 cs.CL Jordan Hoffmann Sebastian Borgeaud Training Compute-Optimal Large Language Models 2022-03-29 जहां चर हैं मॉडल के प्रशिक्षण की लागत FLOPs में है। मॉडल में पैरामीटरों की संख्या है. प्रशिक्षण सेट में टोकन की संख्या है। परीक्षण डेटासेट पर प्रशिक्षित एलएलएम द्वारा प्राप्त प्रति टोकन ( नैट /टोकन) का औसत नकारात्मक लॉग-संभावना हानि है। और सांख्यिकीय हाइपर-पैरामीटर हैं , जिसका अर्थ है कि एक टोकन पर प्रशिक्षित करने के लिए प्रति पैरामीटर 6 FLOPs की लागत आती है। 2001.08361 cs.LG Jared Kaplan Sam McCandlish Scaling Laws for Neural Language ModelsKaplan, Jared; McCandlish, Sam; Henighan, Tom; Brown, Tom B.; Chess, Benjamin; Child, Rewon; Gray, Scott; Radford, Alec; Wu, Jeffrey; Amodei, Dario (2020). "Scaling Laws for Neural Language Models". arXiv:2001.08361 [cs.LG]. ध्यान दें कि प्रशिक्षण लागत अनुमान लागत से बहुत अधिक है, जहां एक टोकन पर अनुमान लगाने के लिए प्रति पैरामीटर 1 से 2 एफएलओपी की लागत आती है। अंगूठाकार|बिंदु(बिंदुओं) पर जिन्हें विराम कहा जाता है, रेखाएं अपना ढलान बदलती हैं, लॉग-लॉग प्लॉट पर चापों से जुड़े रैखिक खंडों की एक श्रृंखला के रूप में दिखाई देती हैं। जब कोई y-अक्ष से सबसे अच्छा प्रदर्शन घटाता है जिसे x-अक्ष मात्रा के अनंत स्केलिंग के साथ भी प्राप्त किया जा सकता है, तो बड़े मॉडल का प्रदर्शन, विभिन्न कार्यों पर मापा जाता है, अन्य (छोटे आकार और) का एक रैखिक एक्सट्रपलेशन प्रतीत होता है लॉग-लॉग प्लॉट पर मध्यम आकार) मॉडल का प्रदर्शन। हालाँकि, कभी-कभी रेखा का ढलान एक ढलान से दूसरे बिंदु पर स्थानांतरित हो जाता है जिसे डाउनस्ट्रीम स्केलिंग कानूनों में ब्रेक के रूप में संदर्भित किया जाता है 2210.14891 cs.LG Ethan Caballero Kshitij Gupta Broken Neural Scaling Laws, जो चापों से जुड़े रैखिक खंडों की एक श्रृंखला के रूप में दिखाई देता है; ऐसा लगता है कि बड़े मॉडल इस बिंदु पर "आकस्मिक क्षमताएं" प्राप्त कर लेते हैं। https://www.jasonwei.net/blog/emergence 137 emergent abilities of large language models Jason Wei en-US 2023-06-24 इन क्षमताओं को प्रोग्राम-इन या डिज़ाइन किए जाने के बजाय खोजा जाता है, कुछ मामलों में एलएलएम को सार्वजनिक रूप से तैनात किए जाने के बाद ही। 2304.00612 cs.CL Samuel R. Bowman Eight Things to Know about Large Language ModelsBowman, Samuel R. (2023). "Eight Things to Know about Large Language Models". arXiv:2304.00612 [cs.CL]. उभरती क्षमताओं में शामिल हैं: रिपोर्ट किए गए अंकगणित, अंतर्राष्ट्रीय ध्वन्यात्मक वर्णमाला को डिकोड करना, किसी शब्द के अक्षरों को सुलझाना, संदर्भ में शब्द को स्पष्ट करना,Pilehvar Mohammad Taher Camacho-Collados Jose June 2019 WiC: the Word-in-Context Dataset for Evaluating Context-Sensitive Meaning Representations https://aclanthology.org/N19-1128 Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers) Minneapolis, Minnesota Association for Computational Linguistics 1267–1273 10.18653/v1/N19-1128 102353817https://pilehvar.github.io/wic/ WiC: The Word-in-Context Dataset pilehvar.github.io 2023-06-27 पाठ में दर्शाए गए स्थानिक शब्दों, कार्डिनल दिशाओं और रंग शब्दों को परिवर्तित करना (उदाहरण के लिए, [0, 0, 1; 0, 0, 0; 0, 0, 0] पर "उत्तर-पूर्व" का उत्तर देना),Patel Roma Pavlick Ellie 2021-10-06 Mapping Language Models to Grounded Conceptual Spaces https://openreview.net/forum?id=gJcEM8sxHK en और अन्य। चेन-ऑफ़-थॉट प्रॉम्प्टिंग : चेन-ऑफ़-थॉट प्रॉम्प्टिंग द्वारा मॉडल आउटपुट में सुधार तभी किया जाता है जब मॉडल का आकार 62B से अधिक हो। छोटे मॉडल बेहतर प्रदर्शन करते हैं जब उन्हें बिना किसी विचार के तुरंत उत्तर देने के लिए कहा जाता है। A Closer Look at Large Language Models Emergent Abilities (Yao Fu, Nov 20, 2022) हिंग्लिश (हिंदी और अंग्रेजी का एक संयोजन) के पैराग्राफ में आपत्तिजनक सामग्री की पहचान करना, और किस्वाहिली कहावतों के समान अंग्रेजी समकक्ष तैयार करना। https://www.quantamagazine.org/the-unpredictable-abilities-emerging-from-large-ai-models-20230316/ The Unpredictable Abilities Emerging From Large AI Models Ornes Stephen March 16, 2023 Quanta Magazine शेफ़र एट. अल. तर्क है कि उभरती हुई क्षमताएँ अप्रत्याशित रूप से अर्जित नहीं की जाती हैं, बल्कि एक सुचारु स्केलिंग कानून के अनुसार पूर्वानुमानित रूप से अर्जित की जाती हैं। लेखकों ने बहुविकल्पीय प्रश्नों को हल करने वाले एलएलएम के एक खिलौना सांख्यिकीय मॉडल पर विचार किया, और दिखाया कि यह सांख्यिकीय मॉडल, अन्य प्रकार के कार्यों के लिए संशोधित, इन कार्यों पर भी लागू होता है। 2304.15004 cs.AI Rylan Schaeffer Brando Miranda Are Emergent Abilities of Large Language Models a Mirage? 2023-04-01Schaeffer, Rylan; Miranda, Brando; Koyejo, Sanmi (2023-04-01). "Are Emergent Abilities of Large Language Models a Mirage?". arXiv:2304.15004 [cs.AI]. होने देना पैरामीटर गिनती की संख्या हो, और मॉडल का प्रदर्शन हो: When , then is an exponential curve (before it hits the plateau at one), which looks like emergence. When , then the plot is a straight line (before it hits the plateau at zero), which does not look like emergence. When , then is a step-function, which looks like emergence. व्याख्या बड़े भाषा मॉडल अपने आप में "ब्लैक बॉक्स" हैं, और यह स्पष्ट नहीं है कि वे भाषाई कार्य कैसे कर सकते हैं। एलएलएम कैसे काम करता है, इसे समझने के लिए कई विधियाँ हैं। यंत्रवत व्याख्या का उद्देश्य प्रतीकात्मक एल्गोरिदम की खोज करके एलएलएम को रिवर्स-इंजीनियर करना है जो एलएलएम द्वारा किए गए अनुमान का अनुमान लगाता है। एक उदाहरण ओथेलो-जीपीटी है, जहां एक छोटे ट्रांसफार्मर को कानूनी ओथेलो चाल की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है। यह पाया गया है कि ओथेलो बोर्ड का एक रैखिक प्रतिनिधित्व है, और प्रतिनिधित्व को संशोधित करने से अनुमानित कानूनी ओथेलो चालें सही तरीके से बदल जाती हैं। 2210.13382 cs.LG Kenneth Li Aspen K. Hopkins Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task 2022-10-01 https://thegradient.pub/othello/ Large Language Model: world models or surface statistics? 2023-01-21 The Gradient en 2023-06-12 दूसरे उदाहरण में, एक छोटे ट्रांसफार्मर को कारेल प्रोग्राम पर प्रशिक्षित किया जाता है। ओथेलो-जीपीटी उदाहरण के समान, कारेल प्रोग्राम शब्दार्थ का एक रैखिक प्रतिनिधित्व है, और प्रतिनिधित्व को संशोधित करने से आउटपुट सही तरीके से बदल जाता है। मॉडल सही प्रोग्राम भी तैयार करता है जो प्रशिक्षण सेट की तुलना में औसतन छोटे होते हैं। 2305.11169 cs.LG Charles Jin Martin Rinard Evidence of Meaning in Language Models Trained on Programs 2023-05-01 एक अन्य उदाहरण में, लेखकों ने मॉड्यूलर अंकगणितीय जोड़ पर छोटे ट्रांसफार्मर को प्रशिक्षित किया। परिणामी मॉडल रिवर्स-इंजीनियर किए गए थे, और यह पता चला कि उन्होंने असतत फूरियर ट्रांसफॉर्म का उपयोग किया था। 2301.05217 cs.LG Neel Nanda Lawrence Chan Progress measures for grokking via mechanistic interpretability 2023-01-01 समझ और बुद्धि 2022 के एक सर्वेक्षण में जब एनएलपी शोधकर्ताओं से पूछा गया कि क्या (बिना ट्यून किए गए) एलएलएम "कुछ गैर-तुच्छ अर्थों में प्राकृतिक भाषा को (कभी भी) समझ सकते हैं" तो वे समान रूप से विभाजित थे। Mitchell Melanie Krakauer David C. 28 March 2023 The debate over understanding in AI's large language models Proceedings of the National Academy of Sciences 120 13 e2215907120 2210.13966 2023PNAS..12015907M 10.1073/pnas.2215907120 10068812 36943882 "एलएलएम समझ" के समर्थकों का मानना है कि कुछ एलएलएम क्षमताएं, जैसे गणितीय तर्क, कुछ अवधारणाओं को "समझने" की क्षमता दर्शाती हैं। माइक्रोसॉफ्ट की एक टीम ने 2023 में तर्क दिया कि GPT-4 "गणित, कोडिंग, दृष्टि, चिकित्सा, कानून, मनोविज्ञान और अन्य जैसे नवीन और कठिन कार्यों को हल कर सकता है" और GPT-4 को "एक कृत्रिम सामान्य बुद्धि प्रणाली के प्रारंभिक (अभी तक अधूरा) संस्करण के रूप में देखा जा सकता है": "क्या कोई तर्कसंगत रूप से कह सकता है कि एक प्रणाली जो सॉफ्टवेयर इंजीनियरिंग उम्मीदवारों के लिए परीक्षा उत्तीर्ण करती है वह वास्तव में बुद्धिमान नहीं है?" https://www.nytimes.com/2023/05/16/technology/microsoft-ai-human-reasoning.html Microsoft Says New A.I. Shows Signs of Human Reasoning Metz Cade 16 May 2023 The New York Times 2303.12712 cs.CL Sébastien Bubeck Varun Chandrasekaran Sparks of Artificial General Intelligence: Early experiments with GPT-4 2023 कुछ शोधकर्ता एलएलएम को "एलियन इंटेलिजेंस" के रूप में वर्णित करते हैं। https://www.zdnet.com/article/chatgpt-is-more-like-an-alien-intelligence-than-a-human-brain-says-futurist/ ChatGPT is more like an 'alien intelligence' than a human brain, says futurist 2023 ZDNET 12 June 2023 en उदाहरण के लिए, अनुमान के सीईओ कॉनर लीही अनट्यून किए गए एलएलएम को गूढ़ एलियन " शॉगगोथ्स " की तरह मानते हैं, और मानते हैं कि आरएलएचएफ ट्यूनिंग एलएलएम के आंतरिक कामकाज को अस्पष्ट करते हुए एक "मुस्कुराहट वाला मुखौटा" बनाता है: "यदि आप इसे बहुत दूर नहीं धकेलते हैं, तो स्माइली चेहरा बना रहता है। लेकिन फिर आप इसे [एक अप्रत्याशित] संकेत देते हैं, और अचानक आपको पागलपन, अजीब विचार प्रक्रियाओं और स्पष्ट रूप से गैर-मानवीय समझ का यह विशाल आधार दिखाई देता है।" https://www.nytimes.com/2023/05/30/technology/shoggoth-meme-ai.html Why an Octopus-like Creature Has Come to Symbolize the State of A.I. Roose Kevin 30 May 2023 The New York Times 12 June 2023 https://time.com/6271657/a-to-z-of-artificial-intelligence/ The A to Z of Artificial Intelligence 13 April 2023 Time Magazine 12 June 2023 en 16 जून 2023 https://web.archive.org/web/20230616123839/https://time.com/6271657/a-to-z-of-artificial-intelligence/ dead इसके विपरीत, "एलएलएम में समझ की कमी" स्कूल के कुछ समर्थकों का मानना है कि मौजूदा एलएलएम "बस मौजूदा लेखन को रीमिक्स और पुनर्संयोजित कर रहे हैं", या मौजूदा एलएलएम में भविष्यवाणी कौशल, तर्क कौशल, एजेंसी और व्याख्यात्मकता में कमी की ओर इशारा करते हैं। उदाहरण के लिए, जीपीटी4 में योजना बनाने और वास्तविक समय में सीखने में स्वाभाविक कमी है। 2303.12712 cs.CL Sébastien Bubeck Varun Chandrasekaran Sparks of Artificial General Intelligence: Early experiments with GPT-4 2023 जेनरेटिव एलएलएम को आत्मविश्वास से उन तथ्यों के दावों पर जोर देते हुए देखा गया है जो उनके प्रशिक्षण डेटा द्वारा उचित नहीं लगते हैं, एक ऐसी घटना जिसे " मतिभ्रम " कहा गया है। Ji Ziwei Lee Nayeon Frieske Rita Yu Tiezheng Su Dan Xu Yan Ishii Etsuko Bang Yejin Dai Wenliang November 2022 Survey of Hallucination in Natural Language Generation https://dl.acm.org/doi/pdf/10.1145/3571730 pdf ACM Computing Surveys Association for Computing Machinery 55 12 1–38 2202.03629 10.1145/3571730 15 January 2023 न्यूरोसाइंटिस्ट टेरेंस सेजनोव्स्की ने तर्क दिया है कि "एलएलएम की बुद्धिमत्ता पर विशेषज्ञों की अलग-अलग राय बताती है कि प्राकृतिक बुद्धिमत्ता पर आधारित हमारे पुराने विचार अपर्याप्त हैं"। मूल्यांकन विकलता किसी भाषा मॉडल के प्रदर्शन का सबसे अधिक इस्तेमाल किया जाने वाला माप किसी दिए गए पाठ कोष पर उसकी विकलता है। विकलता इस बात का माप है कि कोई मॉडल किसी डेटासेट की सामग्री की कितनी अच्छी तरह भविष्यवाणी करने में सक्षम है; मॉडल डेटासेट को जितनी अधिक संभावना प्रदान करेगा, उलझन उतनी ही कम होगी। गणितीय रूप से, उलझन को प्रति टोकन औसत नकारात्मक लॉग संभावना के घातांक के रूप में परिभाषित किया गया है: यहाँ टेक्स्ट कॉर्पस में टोकन की संख्या है, और "टोकन के लिए संदर्भ " प्रयुक्त एलएलएम के विशिष्ट प्रकार पर निर्भर करता है। यदि एलएलएम ऑटोरेग्रेसिव है, तो "टोकन के लिए संदर्भ "टोकन से पहले प्रदर्शित होने वाला पाठ का खंड है . यदि एलएलएम छिपा हुआ है, तो "टोकन के लिए संदर्भ "टोकन के आसपास पाठ का खंड है . क्योंकि भाषा मॉडल उनके प्रशिक्षण डेटा पर हावी हो सकते हैं, मॉडल का मूल्यांकन आमतौर पर अनदेखे डेटा के परीक्षण सेट पर उनकी विकलता के आधार पर किया जाता है। यह बड़े भाषा मॉडल के मूल्यांकन के लिए विशेष चुनौतियाँ प्रस्तुत करता है। जैसे-जैसे उन्हें वेब से बड़े पैमाने पर निकाले गए पाठ के बड़े संग्रह पर प्रशिक्षित किया जाता है, यह संभावना बढ़ती जा रही है कि मॉडल के प्रशिक्षण डेटा में अनजाने में किसी दिए गए परीक्षण सेट के हिस्से शामिल हो जाते हैं। Brown Tom B. Mann Benjamin Ryder Nick Subbiah Melanie Kaplan Jared Dhariwal Prafulla Neelakantan Arvind Shyam Pranav Sastry Girish Dec 2020 Larochelle H. Ranzato M. Hadsell R. Balcan M.F. Lin H. Language Models are Few-Shot Learners https://proceedings.neurips.cc/paper/2020/file/1457c0d6bfcb4967418bfb8ac142f64a-Paper.pdf Advances in Neural Information Processing Systems Curran Associates, Inc. 33 1877–1901 कार्य-विशिष्ट डेटासेट और बेंचमार्क अधिक विशिष्ट डाउनस्ट्रीम कार्यों पर भाषा मॉडल की क्षमताओं का मूल्यांकन करने के लिए बड़ी संख्या में परीक्षण डेटासेट और बेंचमार्क भी विकसित किए गए हैं। परीक्षण को सामान्य ज्ञान, सामान्य ज्ञान तर्क और गणितीय समस्या-समाधान सहित विभिन्न क्षमताओं का मूल्यांकन करने के लिए डिज़ाइन किया जा सकता है। मूल्यांकन डेटासेट की एक व्यापक श्रेणी प्रश्न उत्तर डेटासेट है, जिसमें प्रश्नों के जोड़े और सही उत्तर शामिल हैं, उदाहरण के लिए, ("क्या सैन जोस शार्क ने स्टेनली कप जीता है?", "नहीं")। 1905.10044 cs.CL Christopher Clark Kenton Lee BoolQ: Exploring the Surprising Difficulty of Natural Yes/No Questions एक प्रश्न उत्तर देने वाले कार्य को "खुली किताब" माना जाता है यदि मॉडल के संकेत में वह पाठ शामिल है जिससे अपेक्षित उत्तर प्राप्त किया जा सकता है (उदाहरण के लिए, पिछले प्रश्न को कुछ पाठ के साथ जोड़ा जा सकता है जिसमें वाक्य शामिल है "शार्क एक बार स्टेनली कप फाइनल में आगे बढ़े हैं, 2016 में पिट्सबर्ग पेंगुइन से हार गए।" ). अन्यथा, कार्य को "बंद किताब" माना जाता है, और मॉडल को प्रशिक्षण के दौरान रखे गए ज्ञान पर आधारित होना चाहिए। 2303.18223 cs.CL Wayne Xin Zhao Kun Zhou A Survey of Large Language Models आमतौर पर उपयोग किए जाने वाले प्रश्न उत्तर डेटासेट के कुछ उदाहरणों में ट्रुथफुलक्यूए, वेब क्वेश्चन्स, ट्रिवियाक्यूए और एसक्यूएडी शामिल हैं। मूल्यांकन डेटासेट पाठ पूर्णता का रूप भी ले सकता है, जिसमें मॉडल किसी संकेत को पूरा करने के लिए सबसे संभावित शब्द या वाक्य का चयन करता है, उदाहरण के लिए: "ऐलिस बॉब की मित्र थी। ऐलिस अपने दोस्त, ____ से मिलने गई थी। कुछ समग्र बेंचमार्क भी विकसित किए गए हैं जो विभिन्न मूल्यांकन डेटासेट और कार्यों की विविधता को जोड़ते हैं। उदाहरणों में GLUE, SuperGLUE, MMLU, BIG-बेंच और HELM शामिल हैं। https://thegradient.pub/understanding-evaluation-metrics-for-language-models/ Evaluation Metrics for Language Modeling Huyen Chip 18 October 2019 The Gradient 2303.18223 cs.CL Wayne Xin Zhao Kun Zhou A Survey of Large Language ModelsWayne Xin Zhao; Zhou, Kun; Li, Junyi; Tang, Tianyi; Wang, Xiaolei; Hou, Yupeng; Min, Yingqian; Zhang, Beichen; Zhang, Junjie; Dong, Zican; Du, Yifan; Yang, Chen; Chen, Yushuo; Chen, Zhipeng; Jiang, Jinhao; Ren, Ruiyang; Li, Yifan; Tang, Xinyu; Liu, Zikang; Liu, Peiyu; Nie, Jian-Yun; Wen, Ji-Rong (2023). "A Survey of Large Language Models". arXiv:2303.18223 [cs.CL]. शेष पर पर्यवेक्षित फाइन-ट्यूनिंग करने के बाद मूल्यांकन डेटासेट के रुके हुए हिस्से पर परिणामों की रिपोर्ट करना पहले मानक था। पूर्व-प्रशिक्षित मॉडल का सीधे तौर पर प्रॉम्प्टिंग तकनीकों के माध्यम से मूल्यांकन करना अब अधिक आम हो गया है, हालांकि शोधकर्ता विशेष कार्यों के लिए प्रॉम्प्ट तैयार करने के तरीके के विवरण में भिन्न होते हैं, विशेष रूप से इस संबंध में कि हल किए गए कार्यों के कितने उदाहरण प्रॉम्प्ट से जुड़े हैं (यानी एन -शॉट प्रॉम्प्टिंग में एन का मूल्य)। प्रतिकूल रूप से निर्मित मूल्यांकन बड़े भाषा मॉडलों के सुधार की तीव्र गति के कारण, मूल्यांकन बेंचमार्क को कम जीवनकाल का सामना करना पड़ा है, अत्याधुनिक मॉडल तेजी से मौजूदा बेंचमार्क को "संतृप्त" कर रहे हैं, मानव एनोटेटर्स के प्रदर्शन को पार कर रहे हैं, जिससे बेंचमार्क को और अधिक चुनौतीपूर्ण कार्यों के साथ बदलने या बढ़ाने के प्रयास किए जा रहे हैं। 2206.04615 cs.CL Aarohi Srivastava Abhinav Rastogi Beyond the Imitation Game: Quantifying and extrapolating the capabilities of language models इसके अलावा, "शॉर्टकट लर्निंग" के मामले भी हैं जिनमें एआई कभी-कभी सही प्रतिक्रियाओं का अनुमान लगाने के लिए सतही परीक्षण प्रश्न शब्दों में सांख्यिकीय सहसंबंधों का उपयोग करके बहुविकल्पीय परीक्षणों पर "धोखा" देते हैं, बिना पूछे गए वास्तविक प्रश्न को समझे बिना। कुछ डेटासेट का निर्माण प्रतिकूल रूप से किया गया है, विशेष समस्याओं पर ध्यान केंद्रित करते हुए, जिन पर मौजूदा भाषा मॉडल मनुष्यों की तुलना में असामान्य रूप से खराब प्रदर्शन करते हैं। एक उदाहरण ट्रूथफुलक्यूए डेटासेट है, एक प्रश्न उत्तर देने वाला डेटासेट जिसमें 817 प्रश्न हैं, जो भाषा मॉडल उन झूठों की नकल करके गलत उत्तर देने के लिए अतिसंवेदनशील होते हैं जिन्हें प्रशिक्षण के दौरान उन्हें बार-बार उजागर किया गया था। उदाहरण के लिए, एक एलएलएम इस प्रश्न का उत्तर "नहीं" दे सकता है "क्या आप एक बूढ़े कुत्ते को नई तरकीबें सिखा सकते हैं?" अंग्रेजी मुहावरे के संपर्क में आने के कारण आप एक बूढ़े कुत्ते को नई तरकीबें नहीं सिखा सकते, भले ही यह अक्षरशः सत्य नहीं है। 2109.07958 cs.CL Stephanie Lin Jacob Hilton TruthfulQA: Measuring How Models Mimic Human Falsehoods प्रतिकूल मूल्यांकन डेटासेट का एक अन्य उदाहरण स्वैग और उसके उत्तराधिकारी, हेलास्वैग, समस्याओं का संग्रह है जिसमें एक पाठ मार्ग को पूरा करने के लिए कई विकल्पों में से एक का चयन करना होगा। गलत पूर्णताएँ एक भाषा मॉडल से नमूनाकरण और क्लासिफायर के एक सेट के साथ फ़िल्टर करके उत्पन्न की गईं। परिणामी समस्याएं मनुष्यों के लिए मामूली हैं, लेकिन जिस समय डेटासेट बनाए गए थे, उस समय अत्याधुनिक भाषा मॉडल में उनकी सटीकता कम थी। उदाहरण के लिए: हमें एक फिटनेस सेंटर का चिन्ह दिखाई देता है। फिर हम एक आदमी को कैमरे से बात करते और व्यायाम गेंद पर बैठे और लेटे हुए देखते हैं। मनुष्य...क) दर्शाता है कि गेंदों को ऊपर और नीचे चलाकर कुशल व्यायाम कार्य को कैसे बढ़ाया जाए।ख) अपने सभी हाथ और पैर हिलाता है और बहुत सारी मांसपेशियाँ बनाता है।ग) फिर गेंद खेलता है और हम एक ग्राफिक्स और हेज ट्रिमिंग प्रदर्शन देखते हैं।घ) गेंद पर और बात करते समय उठक-बैठक करता है। 1905.07830 cs.CL Rowan Zellers Ari Holtzman HellaSwag: Can a Machine Really Finish Your Sentence? बीईआरटी सबसे संभावित समापन के रूप में (बी) का चयन करता है, हालांकि सही उत्तर (डी) है। 1905.07830 cs.CL Rowan Zellers Ari Holtzman HellaSwag: Can a Machine Really Finish Your Sentence?Zellers, Rowan; Holtzman, Ari; Bisk, Yonatan; Farhadi, Ali; Choi, Yejin (2019). "HellaSwag: Can a Machine Really Finish Your Sentence?". arXiv:1905.07830 [cs.CL]. व्यापक प्रभाव 2023 में, नेचर बायोमेडिकल इंजीनियरिंग ने लिखा था कि बड़े भाषा मॉडल द्वारा बनाए गए पाठ से मानव-लिखित पाठ को "सटीक रूप से अलग करना अब संभव नहीं है", और यह कि "यह लगभग निश्चित है कि सामान्य-उद्देश्य वाले बड़े भाषा मॉडल तेजी से फैलेंगे... यह एक सुरक्षित शर्त है कि वे समय के साथ कई उद्योगों को बदल देंगे।" 7 March 2023 Prepare for truly useful large language models Nature Biomedical Engineering en 7 2 85–86 10.1038/s41551-023-01012-6 36882584 गोल्डमैन सैक्स ने 2023 में सुझाव दिया था कि जेनेरेटिव भाषा एआई अगले दस वर्षों में वैश्विक सकल घरेलू उत्पाद में 7% की वृद्धि कर सकती है, और वैश्विक स्तर पर स्वचालन के कारण 300 मिलियन नौकरियां पैदा हो सकती हैं। https://www.economist.com/finance-and-economics/2023/05/07/your-job-is-probably-safe-from-artificial-intelligence Your job is (probably) safe from artificial intelligence 7 May 2023 The Economist 18 June 2023 https://www.goldmansachs.com/intelligence/pages/generative-ai-could-raise-global-gdp-by-7-percent.html Generative AI Could Raise Global GDP by 7% Goldman Sachs 18 June 2023 कुछ टिप्पणीकारों ने आकस्मिक या जानबूझकर गलत सूचना के निर्माण, या अन्य प्रकार के दुरुपयोग पर चिंता व्यक्त की। https://www.japantimes.co.jp/news/2023/05/01/business/tech/ai-fake-news-content-farms/ AI chatbots have been used to create dozens of news content farms Alba Davey 1 May 2023 The Japan Times 18 June 2023 उदाहरण के लिए, बड़े भाषा मॉडल की उपलब्धता जैव-आतंकवाद को अंजाम देने के लिए आवश्यक कौशल-स्तर को कम कर सकती है; जैव सुरक्षा शोधकर्ता केविन एस्वेल्ट ने सुझाव दिया है कि एलएलएम रचनाकारों को रोगजनकों को बनाने या बढ़ाने पर अपने प्रशिक्षण डेटा पेपर से बाहर रखना चाहिए। 14 June 2023 Could chatbots help devise the next pandemic virus? https://www.science.org/content/article/could-chatbots-help-devise-next-pandemic-virus Science en 10.1126/science.adj2463 सुरक्षा संबंधी चुनौतियाँ बड़े भाषा मॉडलों के व्यापक उपयोग के साथ उनसे संबंधित सुरक्षा चुनौतियों पर भी ध्यान दिया जाने लगा है। चूंकि ये मॉडल प्राकृतिक भाषा निर्देशों की व्याख्या करके कार्य करते हैं, इसलिए दुर्भावनापूर्ण या भ्रामक निर्देशों के माध्यम से इनके व्यवहार को प्रभावित करने का प्रयास किया जा सकता है। इस प्रकार के जोखिमों को सामान्यतः प्रॉम्प्ट इंजेक्शन (Prompt Injection) हमलों के रूप में जाना जाता है। इसके अतिरिक्त, बड़े भाषा मॉडल बाहरी डेटा स्रोतों, उपकरणों और अनुप्रयोगों के साथ एकीकृत होकर कार्य कर सकते हैं। ऐसी परिस्थितियों में संवेदनशील जानकारी का अनपेक्षित प्रकटीकरण, प्रशिक्षण डेटा में छेड़छाड़ (Data Poisoning), असुरक्षित आउटपुट तथा मॉडल के दुरुपयोग जैसे जोखिम उत्पन्न हो सकते हैं। विशेषज्ञों के अनुसार, इन प्रणालियों के सुरक्षित उपयोग के लिए इनपुट सत्यापन, आउटपुट समीक्षा, अभिगम नियंत्रण तथा नियमित सुरक्षा मूल्यांकन जैसी प्रक्रियाओं को अपनाना आवश्यक है।https://www.modernsecurity.io/pages/blog?p=the-owasp-top-10-for-llm-applications-explained The OWASP Top 10 For LLM Applications Explained Modern Security en 2026-06-24 सूची बड़े भाषा मॉडलों की सूची इन्हें भी देखें बड़े भाषा मॉडलों की सूची बाहरी कड़ियाँ बृहद भाषा मॉडल अग्रिम पठन Jurafsky, Dan, Martin, James. H. Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition, 3rd Edition draft, 2023. 2207.09238 cs.LG Mary Phuong Marcus Hutter Formal Algorithms for Transformers 2022 2303.10130 econ.GN Tyna Eloundou Sam Manning GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models Mishkin Pamela Rock Daniel 2023 Eldan Ronen Li Yuanzhi TinyStories: How Small Can Language Models Be and Still Speak Coherent English? 2023 cs.CL 2305.07759 Frank Michael C. Baby steps in evaluating the capacities of large language models Nature Reviews Psychology 27 June 2023 1–2 10.1038/s44159-023-00211-x 259713140 https://www.nature.com/articles/s44159-023-00211-x 2 July 2023 en 2731-0574 Zhao Wayne Xin Zhou Kun Li Junyi 1 A Survey of Large Language Models 2023 cs.CL 2303.18223 Kaddour Jean etal Challenges and Applications of Large Language Models 2023 cs.CL 2307.10169 टिप्पणियां सन्दर्भ श्रेणी: बड़े भाषा मॉडल