لنډ ځواب: د مصنوعي ذهانت مخکې پروسس کول د تکرار وړ ګامونو یوه ټولګه ده چې خام، لوړ توپیر لرونکي معلومات په دوامداره ماډل ان پټونو بدلوي، پشمول د پاکولو، کوډ کولو، پیمانه کولو، نښه کولو، او د انځور بدلونونو. دا مهمه ده ځکه چې که د روزنې ان پټونه او د تولید ان پټونه توپیر ولري، ماډلونه کولی شي په خاموشۍ سره ناکام شي. که چیرې یو ګام پیرامیټرونه "زده کړي"، نو دا یوازې د روزنې ډیټا کې فټ کړئ ترڅو د لیکیدو مخه ونیول شي.
د مصنوعي ذهانت مخکې پروسس کول هغه څه دي چې تاسو یې د روزنې یا استنباط څخه مخکې (او ځینې وختونه د روزنې په جریان کې) خام معلوماتو ته کوئ ترڅو یو ماډل واقعیا له هغې څخه زده کړه وکړي. یوازې "پاکول" نه. دا د معلوماتو پاکول، شکل ورکول، اندازه کول، کوډ کول، لوړول، او بسته کول دي چې په یو ثابت استازیتوب کې دي چې وروسته به ستاسو ماډل په خاموشۍ سره نه خرابوي. [1]
مهم ټکي:
تعریف: مخکې پروسس کول خام جدولونه، متن، انځورونه، او لاګونه د ماډل لپاره چمتو ځانګړتیاو ته بدلوي.
تسلسل: د روزنې او استنباط په جریان کې ورته بدلونونه پلي کړئ ترڅو د بې مطابقت ناکامیو مخه ونیول شي.
لیک: یوازې د روزنې معلوماتو باندې سکیلرونه، انکوډرونه، او ټوکنائزرونه فټ کړئ.
د تکثیر وړتیا: د تفتیش وړ احصایو سره پایپ لاینونه جوړ کړئ، نه د اډ-هاک نوټ بوک حجرو ترتیبونو سره.
د تولید څارنه: د سکوي او ډرېفټ تعقیب کړئ ترڅو ان پټونه په تدریجي ډول فعالیت له منځه یوسي.
هغه مقالې چې تاسو یې له دې وروسته لوستل خوښولی شئ:
🔗 د حقیقي نړۍ فعالیت لپاره د مصنوعي ذهانت ماډلونه څنګه ازموینه وکړو
دقت، پیاوړتیا، او تعصب په چټکۍ سره ارزولو لپاره عملي میتودونه.
🔗 ایا د متن څخه وینا مصنوعي ذهانت دی او دا څنګه کار کوي؟
د TTS اساسات، کلیدي کارونې، او نن ورځ عام محدودیتونه تشریح کوي.
🔗 آیا نن ورځ مصنوعي ذهانت په سمه توګه د خطاطۍ لیکنه لوستلی شي؟
د پیژندنې ننګونې، غوره وسایل، او دقت لارښوونې پوښي.
🔗 په عامو دندو کې AI څومره دقیق دی؟
د دقت عوامل، معیارونه، او په حقیقي نړۍ کې اعتبار ماتوي.
په ساده ژبه کې د مصنوعي ذهانت مخکې پروسس کول (او هغه څه چې نه دي) 🤝
د مصنوعي ذهانت له لارې مخکې پروسس کول د خامو موادو (جدولونو، متن، انځورونو، لاګونو) د ماډل لپاره چمتو ځانګړتیاو ته بدلول دي. که خام معلومات یو ګډوډ ګراج وي، نو مخکې پروسس کول د بکسونو لیبل کول، مات شوي کثافات غورځول، او د شیانو سټکینګ کول دي ترڅو تاسو واقعیا پرته له ټپي کیدو څخه تیر شئ.
دا پخپله ماډل نه دی. دا هغه څه دي چې ماډل ممکن کوي:
-
کټګورۍ په شمېرو بدلول (یو ګرم، ترتیبي، او نور) [1]
-
د لویو عددي حدودو اندازه کول په معقول حدودو کې (معیاري کول، لږترلږه اعظمي، او نور) [1]
-
د ننوتلو IDs کې د متن نښه کول (او معمولا د پاملرنې ماسک) [3]
-
د انځورونو اندازه بدلول/کښته کول او د تصادفي بدلونونو په پرتله د تعییناتي بدلونونو پلي کول په مناسب ډول [4]
-
د تکرار وړ پایپ لاینونو جوړول ترڅو روزنه او "حقیقي ژوند" معلومات په پټو لارو توپیر ونلري [2]
یوه کوچنۍ عملي یادونه: "مخکې پروسس کول" هغه څه شامل دي چې په دوامداره توګه پیښیږي مخکې لدې چې ماډل ان پټ وګوري. ځینې ټیمونه دا په "فیچر انجینرۍ" او "ډیټا پاکولو" ویشلي، مګر په ریښتیني ژوند کې دا کرښې تیاره کیږي.

ولې د مصنوعي ذهانت مخکې پروسس کول د خلکو د منلو په پرتله ډیر مهم دي 😬
یو ماډل د نمونې سره سمون خوري، نه د ذهن لوستونکی. که ستاسو معلومات متضاد وي، ماډل متضاد قوانین زده کوي. دا فلسفي نه ده، دا په دردناکه توګه لفظي ده.
مخکې له مخکې پروسس کول تاسو سره مرسته کوي:
-
د زده کړې ثبات ته وده ورکړئ د ځانګړتیاوو په استازیتوب کې د ځای په ځای کولو سره چې اټکل کونکي یې په باوري ډول کارولی شي (په ځانګړي توګه کله چې پیمانه کول/کوډ کول پکې شامل وي). [1]
-
شور کم کړئ لکه څنګه چې یو ماډل یې عمومي کولی شي (د عجیبو اثارو د یادولو پرځای).
-
د خاموش ناکامۍ طریقو لکه لیکج او روزل/خدمت بې مطابقت مخه ونیسئ (هغه ډول چې په تایید کې "حیرانونکي" ښکاري او بیا په تولید کې د نباتاتو سره مخ کیږي). [2]
-
د تکرار سرعت زیات کړئ ځکه چې د تکرار وړ بدلونونه د اونۍ هره ورځ د نوټ بوک سپاګیټي څخه تیریږي.
همدارنګه، دا هغه ځای دی چې ډیری "ماډل فعالیت" په حقیقت کې له هغه ځایه راځي. لکه ... په حیرانتیا سره ډیر. ځینې وختونه دا غیر عادلانه احساس کیږي، مګر دا حقیقت دی 🙃
څه شی د مصنوعي ذهانت د پروسس کولو لپاره ښه پایپ لاین جوړوي ✅
د مخکې پروسس کولو "ښه نسخه" معمولا دا ځانګړتیاوې لري:
-
د تکثیر وړ: ورته ان پټ → ورته محصول (هیڅ راز تصادفي نه دی مګر دا چې قصدي زیاتوالی وي).
-
د روزنې د خدمت کولو تسلسل: هر هغه څه چې تاسو د روزنې په وخت کې کوئ په ورته ډول د استنباط په وخت کې پلي کیږي (ورته فټ شوي پیرامیټرې، ورته کټګورۍ نقشې، ورته د ټوکنائزر ترتیب، او نور). [2]
-
د لیکج لپاره خوندي: په ارزونه/ازموینه کې هیڅ شی د
فټګام اغیزه نه کوي. (د دې جال په اړه نور معلومات په یو څه وخت کې.) [2] -
د لیدلو وړ: تاسو کولی شئ معاینه کړئ چې څه بدلون راغلی (د ځانګړتیا احصایې، ورکیدل، د کټګورۍ شمیرې) نو ډیبګ کول د وایبس پر بنسټ انجینري نه ده.
که ستاسو د پروسس کولو دمخه پروسه د نوټ بوک حجرو یوه ټولګه وي چې final_v7_really_final_ok... تاسو پوهیږئ چې دا څنګه دی. دا کار کوي تر هغه چې دا نه وي 😬
د مصنوعي ذهانت د مخکې پروسس کولو اساسي برخې 🧱
د مخکې پروسس کولو په اړه د ودانیزو بلاکونو سیټ په توګه فکر وکړئ چې تاسو یې په پایپ لاین کې سره یوځای کوئ.
۱) پاکول او تایید کول 🧼
عادي دندې:
-
نقلونه لرې کړئ
-
ورک شوي ارزښتونه اداره کړئ (پرېږدئ، حساب ورکړئ، یا په څرګنده توګه ورک شوي ارزښتونه وښایئ)
-
ډولونه، واحدونه، او سلسلې پلي کړئ
-
د خراب شوي معلوماتو کشف کول
-
د متن بڼې معیاري کړئ (سپینې ځای، د پوښ قواعد، د یونیکوډ ځانګړتیاوې)
دا برخه زړه راښکونکې نه ده، خو د ډېرو احمقانه غلطیو مخه نیسي. زه دا په مینه وایم.
۲) د کټګوري معلوماتو کوډ کول 🔤
ډیری ماډلونه نشي کولی په مستقیم ډول خام تارونه لکه "red" یا "premium_user".
عامې طریقې:
-
یو ګرم کوډ کول (کټګورۍ → بائنری ستنې) [1]
-
عادي کوډ ورکول (کټګورۍ → د عدد ID) [1]
مهمه خبره دا نه ده کوم کوډ ورکوونکی غوره کوئ - دا دا ده چې نقشه کول ثابت پاتې کیږي او د روزنې او استنباط ترمنځ "شکل بدل نه کړي". پدې توګه تاسو د یو ماډل سره پای ته رسیږئ چې آفلاین ښه ښکاري او آنلاین ځورول شوی عمل کوي. [2]
۳) د ځانګړتیاوو اندازه کول او نورمال کول 📏
کله چې ځانګړتیاوې په خورا مختلفو رینجونو کې ژوند کوي، پیمانه کول مهم دي.
دوه کلاسیکونه:
-
معیاري کول: د اوسط لرې کول او د واحد توپیر ته اندازه کول [1]
-
لږترلږه- اعظمي اندازه کول: هر ځانګړتیا په یوه ټاکلي حد کې اندازه کړئ [1]
حتی کله چې تاسو داسې ماډلونه کاروئ چې "ډیری یې مقابله کوي"، اندازه کول ډیری وختونه پایپ لاینونو ته د دلیل ویل اسانه کوي - او په ناڅاپي ډول ماتول یې سختوي.
۴) د فیچر انجینرۍ (چې ګټور درغلۍ هم ورته ویل کېږي) 🧪
دا هغه ځای دی چې تاسو د غوره سیګنالونو په جوړولو سره د ماډل دنده اسانه کوئ:
-
تناسب (کلیکونه / تاثیرات)
-
د کړکۍ څرخېدل (وروستي N ورځې)
-
شمېرنې (د هر کارونکي پیښې)
-
د درنې لکۍ لرونکو ویشونو لپاره د لاګ بدلونونه
دلته یو هنر شته. ځینې وختونه تاسو به یو ځانګړتیا رامینځته کړئ، ویاړئ ... او دا هیڅ نه کوي. یا بدتر، دا درد کوي. دا عادي خبره ده. د ځانګړتیاوو سره احساساتي اړیکه مه کوئ - دوی تاسو سره بیرته مینه نه کوي 😅
۵) د معلوماتو په سمه توګه ویشل ✂️
دا څرګند ښکاري تر هغه چې دا نه وي:
-
د آی آی ډي معلوماتو لپاره ناڅاپي ویشونه
-
د وخت لړۍ لپاره د وخت پر بنسټ ویشونه
-
کله چې ادارې تکرار شي (کاروونکي، وسایل، ناروغان) ډله ایز ویشونه
او په مهمه توګه: د پری پروسس کولو فټ کولو دمخه تقسیم کړئ چې د معلوماتو څخه زده کوي. که ستاسو د پری پروسس کولو مرحله پیرامیټرونه "زده کوي" (لکه وسیلې، لغتونه، د کټګورۍ نقشې)، نو دا باید یوازې د روزنې څخه زده کړي. [2]
د معلوماتو ډول له مخې د مصنوعي ذهانت مخکې پروسس کول: جدول، متن، انځورونه 🎛️
مخکې له مخکې پروسس کول شکل بدلوي چې تاسو ماډل ته څه ورکوئ.
جدول شوي معلومات (سپریډ شیټونه، لاګونه، ډیټابیسونه) 📊
عام ګامونه:
-
د ارزښت له لاسه ورکولو ستراتیژي
-
کټګوري کوډ ورکول [1]
-
د عددي ستنو اندازه کول [1]
-
بهرنۍ اداره کول (د ډومین قواعد ډیری وخت "تصادفي کلپینګ" ته ماتې ورکوي)
-
ترلاسه شوي ځانګړتیاوې (ټولګې، ځنډونه، رولینګ احصایې)
عملي مشوره: د ستنو ګروپونه په واضح ډول تعریف کړئ (عددي vs کټګوري vs پیژندونکي). ستاسو راتلونکی ځان به ستاسو څخه مننه وکړي.
د متن معلومات (NLP) 📝
د متن دمخه پروسس کول ډیری وختونه پدې کې شامل دي:
-
په ټوکنونو/فرعي کلمو باندې د ټوکن کول
-
د ننوتلو IDs ته بدلون
-
ډکول/ټرنکیشن
-
د بسته بندۍ لپاره د پاملرنې ماسکونه جوړول [3]
یو کوچنی قاعده چې درد کموي: د ټرانسفارمر پر بنسټ تنظیماتو لپاره، د ماډل تمه شوي ټوکنیزر ترتیبات تعقیب کړئ او فری سټایل مه کوئ پرته لدې چې تاسو دلیل ولرئ. فری سټایل کول هغه لاره ده چې تاسو یې "روزنه کوي مګر دا عجیب دی" سره پای ته رسوئ
انځورونه (د کمپیوټر لید) 🖼️
عادي مخکې پروسس کول:
-
د شکلونو اندازه بدلول / کرپ کول
-
د ارزونې لپاره ټاکلي بدلونونه
-
د روزنې د زیاتوالي لپاره تصادفي بدلونونه (د مثال په توګه، تصادفي کښت) [4]
یو جزئیات چې خلک یې له لاسه ورکوي: "تصادفي بدلونونه" یوازې یو احساس نه دی - دوی په لفظي ډول هرکله چې ورته زنګ وهل کیږي پیرامیټرې نمونه کوي. د روزنې تنوع لپاره عالي، د ارزونې لپاره خورا خراب که تاسو د تصادفي بندول هیر کړئ. [4]
هغه دام چې هرڅوک پکې راګیریږي: د معلوماتو لیکیدل 🕳️🐍
لیک هغه وخت وي کله چې د ارزونې معلوماتو څخه معلومات روزنې ته ننوځي - ډیری وختونه د مخکې پروسس کولو له لارې. دا کولی شي ستاسو ماډل د اعتبار په جریان کې جادویی ښکاره کړي، بیا په ریښتینې نړۍ کې تاسو مایوسه کړي.
د لیکیدو عامې نمونې:
-
د بشپړ ډیټا سیټ احصایو په کارولو سره اندازه کول (یوازې د روزنې پرځای) [2]
-
د ټرین+ټیسټ په کارولو سره د کټګورۍ نقشې جوړول [2]
-
هر
fit()یاfit_transform()ګام چې د ازموینې سیټ "ګوري" [2]
د ګوتو اصول (ساده، ظالمانه، مؤثر):
-
هر هغه څه چې مناسب ګام ولري باید یوازې د روزنې پرمهال مناسب وي.
-
بیا تاسو د هغه نصب شوي ټرانسفارمر په کارولو سره تایید/ازموینه بدلوئ . [2]
او که تاسو غواړئ چې "دا څومره بد کیدی شي؟" ګټ-چیک: د سایکیټ-لرن خپل اسناد د لیکیدو یوه بیلګه ښیې چیرې چې د غلط پروسس کولو ترتیب په ناڅاپي هدفونو کې شاوخوا 0.76 دقت ورکوي - بیا د لیکیدو وروسته بیرته ~ 0.5 ته راټیټیږي . دا هغه څه دي چې په قناعت وړ ډول غلط لیکیدل کیدی شي. [2]
له ګډوډۍ پرته د پروسس کولو دمخه تولید ته ننوتل 🏗️
ډیری ماډلونه په تولید کې ناکامیږي ځکه چې ماډل "خراب" دی، مګر ځکه چې د ننوتلو واقعیت بدلیږي - یا ستاسو پایپ لاین بدلیږي.
د تولید په اړه مخکې له مخکې پروسس کول معمولا پدې کې شامل دي:
-
خوندي شوي اثار (د انکوډر نقشې، سکیلر پیرامیټونه، د ټوکنائزر ترتیب) نو انفرنس دقیقا ورته زده شوي بدلونونه کاروي [2]
-
د ننوتلو سخت قراردادونه (متوقع ستنې/ډولونه/حدونه)
-
د سکیو او ډریفت لپاره څارنه، ځکه چې د تولید معلومات به وګرځي [5]
که تاسو مشخص تعریفونه غواړئ: د ګوګل د ورټیکس AI ماډل څارنه د روزنې-خدمت کولو سکیو (د تولید ویش له روزنې څخه انحراف کوي) او انفرنس ډرافټ (د تولید ویش د وخت په تیریدو سره بدلون مومي) توپیر کوي، او د کټګوري او عددي ځانګړتیاو لپاره د څارنې ملاتړ کوي. [5]
ځکه چې حیرانتیاوې ګرانې دي. او نه د ساتیرۍ ډول.
د پرتله کولو جدول: د مخکې پروسس کولو عام وسایل + د څارنې وسایل (او د چا لپاره دي) 🧰
| وسیله / کتابتون | لپاره غوره | د بیې | ولې دا کار کوي (او یو څه صداقت) |
|---|---|---|---|
| د سایکیټ زده کړې دمخه پروسس کول | جدول ML پایپ لاینونه | وړیا | جامد کوډګرونه + سکیلرونه (OneHotEncoder، StandardScaler، او نور) او د وړاندوینې وړ چلند [1] |
| د غېږې ورکولو مخ نښې نښانې | د NLP داخلولو چمتووالی | وړیا | د منډو/ماډلونو په اوږدو کې په دوامداره توګه د ننوتلو IDs + د پاملرنې ماسکونه تولیدوي [3] |
| مشعل ویژن بدلونونه | لید بدلون + زیاتوالی | وړیا | په یوه پایپ لاین کې د تعییناتي او تصادفي بدلونونو د ګډولو لپاره پاکه لاره [4] |
| د ورټیکس AI ماډل څارنه | په محصول کې د څنډې/کږوالي کشف | تادیه شوی (کلاوډ) | مانیټرونه د سکیو/ډریفټ او خبرتیاو ځانګړتیا لري کله چې حدونه تیر شي [5] |
(هو، میز لا هم نظرونه لري. خو لږ تر لږه دا صادقانه نظرونه دي 😅)
د پروسس کولو عملي چک لیست چې تاسو یې په حقیقت کې کارولی شئ 📌
د روزنې دمخه
-
د ان پټ سکیما تعریف کړئ (ډولونه، واحدونه، اجازه ورکړل شوي سلسلې)
-
د ورک شویو ارزښتونو او نقلونو پلټنه وکړئ
-
معلومات په سمه توګه وویشئ (تصادفي / د وخت پر بنسټ / ګروپ شوی)
-
د فټ مخکې پروسس کول یوازې په روزنه (
فټ/فټ_ټرانسفارمپه اورګاډي کې پاتې کیږي) [2] -
د پروسس کولو دمخه اثار خوندي کړئ ترڅو استنباط یې بیا وکاروي [2]
د روزنې پرمهال
-
یوازې په هغه ځای کې چې مناسب وي تصادفي زیاتوالی پلي کړئ (معمولا یوازې روزنه ویشئ) [4]
-
د ارزونې دمخه پروسس کول ټاکونکي وساتئ [4]
-
د ماډل بدلونونو په څیر د پروسس کولو دمخه بدلونونه تعقیب کړئ (ځکه چې دوی دي)
د ځای پر ځای کولو دمخه
-
ډاډ ترلاسه کړئ چې استنباط د ورته پروسس کولو لاره او هنري اثار کاروي [2]
-
د ډریفټ/سکیو څارنه تنظیم کړئ (حتی د ځانګړتیاوو د ویش اساسي چکونه هم اوږده لاره پرمخ وړي) [5]
ژوره غوطه: د پروسس کولو دمخه عامې غلطۍ (او څنګه یې مخنیوی وکړو) 🧯
لومړۍ تېروتنه: "زه به ژر تر ژره هرڅه عادي کړم" 😵
که تاسو په بشپړ ډیټاسیټ کې د پیمانه کولو پیرامیټونه محاسبه کوئ، تاسو د ارزونې معلومات لیک کوئ. په تمرین کې فټ کړئ، پاتې نور بدل کړئ. [2]
دوهمه تېروتنه: کټګورۍ ګډوډۍ ته روان دي 🧩
که ستاسو د کټګورۍ نقشه د روزنې او استنباط ترمنځ بدله شي، ستاسو ماډل کولی شي په خاموشۍ سره نړۍ غلطه ولولي. د خوندي شوي اثارو له لارې نقشې تنظیم کړئ. [2]
دریمه تېروتنه: په ارزونه کې ناڅاپي زیاتوالی 🎲
ناڅاپي بدلونونه په روزنه کې خورا ښه دي، مګر کله چې تاسو د فعالیت اندازه کولو هڅه کوئ نو دوی باید "په پټه توګه" نه وي. (تصادفي معنی ناڅاپي ده.) [4]
وروستۍ څرګندونې 🧠✨
د مصنوعي ذهانت له لارې پروسس کول هغه منظم هنر دی چې ګډوډ واقعیت په دوامداره ماډل ان پټونو بدلوي. دا پاکول، کوډ کول، اندازه کول، نښه کول، د انځور بدلونونه، او تر ټولو مهم - د تکرار وړ پایپ لاینونه او هنري اثار پوښي.
-
مخکې له مخکې پروسس کول په قصدي ډول وکړئ، نه په ناڅاپي ډول. [2]
-
لومړی تقسیم کړئ، یوازې په روزنه کې بدلون راولي، د لیکیدو څخه مخنیوی وکړئ. [2]
-
د موډلیت سره سم مخکې له مخکې پروسس کول وکاروئ (د متن لپاره ټوکنائزرونه، د انځورونو لپاره بدلونونه). [3][4]
-
د تولید د اندازې/څرخېدو څارنه وکړئ ترڅو ستاسو ماډل ورو ورو بې معنی شیانو ته ونه ګرځي. [5]
او که تاسو کله هم بند پاتې شئ، نو له ځانه وپوښتئ:
"ایا دا د پروسس کولو مرحله به لاهم معنی ولري که زه دا سبا په نوي معلوماتو کې پرمخ وړم؟"
که ځواب "اوه ... شاید؟" وي، دا ستاسو اشاره ده 😬
د حقیقي نړۍ مثال: د چرن وړاندوینې لپاره د لیک خوندي پری پروسس کولو پایپ لاین جوړول
سناریو
تصور وکړئ چې د SaaS یوه کوچنۍ ډله هڅه کوي چې وړاندوینه وکړي چې کوم پیرودونکي به په راتلونکو 30 ورځو کې لغوه شي. د دوی خام معلومات په دریو ځایونو کې ژوند کوي: د بل صادرات، د محصول کارولو لاګونه، او د ملاتړ ټکټونه.
د ماډل لومړۍ نسخه په تایید کې خورا ښه ښکاري، مګر کله چې په یوه نوې میاشت کې د پیرودونکو په ازموینه کې ازموینه وشي، کمزورې فعالیت کوي. ستونزه د ماډل جوړښت نه دی. دا د پروسس کولو دمخه ده.
ټیم په ناڅاپي ډول د بشپړ ډیټاسیټ په کارولو سره عددي ځانګړتیاوې اندازه کړې، د ریل او ازموینې ډیټا څخه د کټګورۍ نقشې یوځای جوړې کړې، او د ملاتړ ټکټ ټګونه یې شامل کړل چې یوازې د لغوه کیدو وروسته اضافه شوي. کلاسیک لیک. دردناک، مګر د حل وړ. [2]
پایپ لاین څه ته اړتیا لري
یو عملي ترتیب به پدې کې شامل وي:
-
یو ثابت ان پټ سکیما: د پیرودونکي ID، د پلان ډول، د حساب عمر ورځې، د ننوتلو شمیره 30d، د ټکټونو شمیره 30d، د وروستي تادیې حالت، سیمه
-
د وخت پر بنسټ ویش، لکه د جنوري - سپتمبر په میاشت کې روزنه او د اکتوبر په میاشت کې ازموینه
-
عددي پیمانه یوازې د روزنې په ویش کې نصب شوې
-
کټګوري کوډونکي یوازې د روزنې په ویش کې نصب شوي
-
د پروسس کولو دمخه خوندي شوی پایپ لاین ترڅو تولید ورته نقشې او سکیلر ارزښتونه وکاروي
-
د ورکو شویو ستنو، نه لیدل شویو کټګوریو، او د ځای پرځای کولو وروسته د ویش بدلونونو لپاره اساسي څارنه
اصلي قاعده ساده ده: لومړی تقسیم کړئ، دوهم د پروسس کولو دمخه فټ کړئ. هر هغه څه چې د معلوماتو څخه زده کوي باید یوازې د روزنې دورې څخه زده کړي. [2]
د لارښوونې بېلګه
د پروسس کولو دمخه مرحلې لپاره دا د کاري لنډیز په توګه وکاروئ:
د پیرودونکو د بلینګ، کارونې او ملاتړ معلوماتو په کارولو سره د چرن وړاندوینې ماډل لپاره د پروسس کولو دمخه پایپ لاین جوړ کړئ. د هر ټرانسفارمر نصبولو دمخه معلومات د وخت له مخې تقسیم کړئ. یوازې د روزنې معلوماتو کې عددي سکیلرونه او کټګوریک کوډونکي نصب کړئ، بیا دا نصب شوي بدلونونه د اعتبار او ازموینې معلوماتو ته پلي کړئ. ټول د پروسس کولو دمخه توکي خوندي کړئ ترڅو د تولید ماډل ورته سکیما، کټګورۍ نقشه کول، او د اندازه کولو پیرامیټرې وکاروي. د وړاندوینې دمخه ورک شوي کالمونه، غیر متوقع معلومات ډولونه، نه لیدل شوي کټګورۍ، او د توزیع لوی بدلونونه په نښه کړئ.
څنګه یې ازموینه وکړو
مخکې له دې چې په ماډل باور وکړئ، د پروسس کولو پایپ لاین د څو قصدي عجیب ریکارډونو سره ازموینه وکړئ:
-
یو پیرودونکی چې د پلان ډول لري او په روزنه کې حاضر نه و
-
یوه قطار چې سیمه یا وروستۍ_تادیه_حالت نلري
-
یو پیرودونکی چې غیر معمولي لوړ کارونې لري، لکه په 30 ورځو کې 10,000 ننوتل
-
د تولید سټایل فایل چې ستنې یې په غلط ترتیب کې دي
-
د راتلونکي میاشتې ازموینې سیټ چې هیڅکله د فټینګ پرمهال نه و کارول شوی
بیا درې شیان وګورئ:
-
ایا پایپ لاین د ځانګړتیا ترتیب بدلولو پرته چلیږي؟
-
ایا نامعلومې کټګورۍ په دوامداره توګه اداره کیږي؟
-
ایا د لیک له لرې کولو وروسته د اعتبار فعالیت ډیر باوري کچې ته راټیټیږي؟
دا وروستۍ خبره مهمه ده. د شکمن لوړ اعتبار نمره اکثرا د مخکې پروسس شوي بوی وي، نه معجزه.
پایله
د وخت پر بنسټ د پنځو نمونو د پروسس کولو دمخه او وروسته د نوټ بوک مرحلو په خوندي شوي پایپ لاین بدلولو لپاره د چلولو مثالي پایله:
-
د لاسي پروسس کولو وخت د هر ډیټاسیټ تازه کولو لپاره له 55 دقیقو څخه 8 دقیقو ته راټیټ شو.
-
د فیچر-آرډر غلطۍ په 5 ټیسټ ریفریشونو کې له 3 غلطیو څخه په 5 ریفریشونو کې 0 غلطیو ته راټیټې شوې.
-
د لیک له لرې کولو وروسته د اعتبار دقت له ۹۱٪ څخه ۷۴٪ ته راټیټ شو، مګر د تازه میاشتې د ازموینې دقت له ۶۲٪ څخه ۷۱٪ ته ښه شو.
-
ټیم ۶ اتومات چیکونه اضافه کړل: ورک شوي کالمونه، ناسم ډولونه، نه لیدل شوي کټګورۍ، د صفر نرخ بدلون، د شمیرې رینج بدلون، او د روزنې خدمت کولو سکیما بې مطابقت.
دا شمېرې یو نړیوال معیار نه دی. دا د ساده مخکې او وروسته اندازه کولو ډول دی چې یو ټیم کولی شي د وخت تازه کولو، د ناکامو منډو شمیرلو، او د اعتبار پایلې د راتلونکې میاشتې سره پرتله کولو سره بیا تولید کړي.
څه شی غلط کیدی شي؟
تر ټولو لوی خطر دا دی چې پایپ لاین پاک ښکاره شي پداسې حال کې چې په خاموشۍ سره لیک ساتل کیږي. د مثال په توګه، "د وروستي لغوه کیدو خبرداری بریښنالیک څخه ورځې" ممکن ارزښتناکه ښکاري، مګر که دا بریښنالیک یوازې د داخلي بدلون بیاکتنې وروسته واستول شي، نو دا ممکن راتلونکي معلومات لیک کړي.
نور عام جالونه:
-
د خوندي شوي نقشو د بارولو پر ځای په تولید کې د کوډ ورکوونکو بیا نصب کول
-
نوي کټګوریو ته اجازه ورکول چې په خاموشۍ سره د ځانګړتیاوو موقعیتونه بدل کړي
-
کله چې اصلي دنده د وخت پر بنسټ وي، په ناڅاپي ویش کې ازموینه کول
-
په روزنه کې د ورکو ارزښتونو سره قطارونه غورځول مګر په استنباط کې یې نه اداره کول
-
د ماډل دقت څارنه پداسې حال کې چې د ان پټ ډرافټ له پامه غورځول کیږي
عملي لاره
د پروسس کولو یو ښه پایپ لاین د خامو معلوماتو د پاکولو څخه ډیر څه کوي. دا ماډل د خرابې ارزونې، مات شوي تولیدي معلوماتو، او ورو خاموش حرکت څخه ساتي. د چرن ماډل لپاره، د هوښیار پروسس کولو او باوري پروسس کولو ترمنځ توپیر ډیری وخت پدې پورې اړه لري چې ایا ورته فټ شوي بدلونونه هر ځل بیا کارول کیږي، په ځانګړي توګه کله چې معلومات د یوې میاشتې څخه راځي چې ماډل هیڅکله مخکې نه دي لیدلي.
پرله پسې پوښتنې
په ساده ټکو کې، د مصنوعي ذهانت مخکې پروسس کول څه شی دی؟
د مصنوعي ذهانت مخکې پروسس کول د ګامونو یوه تکرارېدونکې ټولګه ده چې شور او لوړ توپیر لرونکي خام معلومات په دوامداره ان پټونو بدلوي چې یو ماډل یې زده کولی شي. پدې کې پاکول، اعتبار، کوډ کول کټګورۍ، د عددي ارزښتونو اندازه کول، د متن نښه کول، او د انځور بدلونونو پلي کول شامل دي. هدف دا دی چې ډاډ ترلاسه شي چې روزنه او د تولید اټکل د "ورته ډول" ان پټ وګوري، نو ماډل وروسته غیر متوقع چلند ته نه ځي.
ولې د مصنوعي ذهانت مخکې پروسس کول په تولید کې دومره مهم دي؟
مخکې له مخکې پروسس کول مهم دي ځکه چې ماډلونه د ان پټ استازیتوب سره حساس دي. که چیرې د روزنې معلومات اندازه شوي، کوډ شوي، نښه شوي، یا د تولید معلوماتو په پرتله په مختلف ډول بدل شوي وي، تاسو کولی شئ د روزنې/خدمت د ناسم سمون ناکامۍ ترلاسه کړئ چې په آفلاین کې ښه ښکاري مګر په خاموشۍ سره آنلاین ناکام کیږي. قوي مخکې له مخکې پروسس کولو پایپ لاینونه هم شور کموي، د زده کړې ثبات ښه کوي، او تکرار ګړندی کوي ځکه چې تاسو د نوټ بوک سپاګیټي نه خلاصوئ.
د پروسس کولو دمخه د معلوماتو د لیکیدو څخه څنګه مخنیوی وکړم؟
یو ساده قاعده کار کوي: هر هغه څه چې د فټ ګام سره وي باید یوازې د روزنې معلوماتو سره فټ شي. پدې کې سکیلرونه، کوډ کونکي، او ټوکنائزرونه شامل دي چې پیرامیټرونه لکه وسیلې، کټګورۍ نقشې، یا لغتونه زده کوي. تاسو لومړی ویشل کیږئ، د روزنې ویش کې فټ شئ، بیا د نصب شوي ټرانسفارمر په کارولو سره اعتبار/ازموینه بدل کړئ. لیکیج کولی شي اعتبار "جادویی" ښه ښکاره کړي او بیا د تولید په کارولو کې سقوط وکړي.
د جدول معلوماتو لپاره تر ټولو عام مخکې پروسس کولو مرحلې کومې دي؟
د جدول معلوماتو لپاره، معمول پایپ لاین کې پاکول او تایید (ډولونه، سلسلې، ورک شوي ارزښتونه)، کټګوري کوډ کول (یو ګرم یا ترتیب)، او عددي پیمانه کول (معیاري کول یا لږترلږه اعظمي) شامل دي. ډیری پایپ لاینونه د ډومین پرمخ وړل شوي فیچر انجینرینګ لکه تناسب، رولینګ کړکۍ، یا شمیرې اضافه کوي. یو عملي عادت دا دی چې د کالم ګروپونه په واضح ډول تعریف کړئ (عددي vs کټګوري vs پیژندونکي) نو ستاسو بدلونونه ثابت پاتې کیږي.
د متن ماډلونو لپاره پری پروسس کول څنګه کار کوي؟
د متن مخکې پروسس کول معمولا د ټوکنونو/فرعي کلمو په بڼه د ټوکنونو جوړول، د ان پټ IDs بدلول، او د بسته بندۍ لپاره د پیډینګ/ټرنکیشن اداره کول دي. ډیری ټرانسفارمر کاري جریان د IDs تر څنګ د پاملرنې ماسک هم رامینځته کوي. یو عام چلند دا دی چې د ماډل د تمې وړ ټوکنائزر ترتیب وکاروئ د اصلاح کولو پرځای، ځکه چې د ټوکنائزر ترتیباتو کې کوچني توپیرونه کولی شي "دا روزنه ورکوي مګر دا په غیر متوقع ډول چلند کوي" پایلو لامل شي.
د ماشین زده کړې لپاره د انځورونو د پروسس کولو په اړه څه توپیر لري؟
د انځور مخکې پروسس کول معمولا د شکلونو او پکسلونو منظم اداره کول تضمینوي: د اندازې بیا تنظیمول/کراپ کول، نورمال کول، او د ټاکلو او ناڅاپي بدلونونو ترمنځ روښانه ویش. د ارزونې لپاره، بدلونونه باید ټاکلو وي نو میټریکونه د پرتلې وړ وي. د روزنې لپاره، ناڅاپي زیاتوالی (لکه ناڅاپي فصلونه) کولی شي قوي والی ښه کړي، مګر ناڅاپي والی باید په قصدي ډول د روزنې ویش ته محدود شي، نه دا چې د ارزونې پرمهال په ناڅاپي ډول پریښودل شي.
څه شی د پروسس کولو دمخه پایپ لاین د نازک پرځای "ښه" کوي؟
د مصنوعي ذهانت د پروسس کولو لپاره یو ښه پایپ لاین د بیا تولید وړ، د لیکیدو لپاره خوندي، او د لیدلو وړ دی. د بیا تولید وړ معنی دا ده چې ورته ان پټ ورته محصول تولیدوي پرته لدې چې تصادفي زیاتوالی قصدي وي. د لیکیدو لپاره خوندي معنی دا ده چې د فټ مرحلې هیڅکله د اعتبار/ازموینې سره اړیکه نه نیسي. د لیدلو وړ معنی دا ده چې تاسو کولی شئ د ورکیدو، کټګورۍ شمیرې، او د ځانګړتیاو ویش په څیر احصایې معاینه کړئ نو ډیبګ کول د شواهدو پراساس دي، نه د کولمو احساس. پایپ لاینونه هر وخت د اډ هاک نوټ بوک ترتیبونه ماتوي.
څنګه کولی شم د روزنې او استنباط دمخه پروسس کولو کې سمون وساتم؟
کلیدي دا ده چې د استنباط په وخت کې ورته زده شوي اثار بیا وکاروئ: د سکیلر پیرامیټرې، د کوډ کولو نقشې، او د ټوکنائزر تشکیلات. تاسو د ان پټ قرارداد (متوقع کالمونه، ډولونه، او سلسلې) هم غواړئ ترڅو د تولید معلومات په خاموشۍ سره ناسم شکلونو ته لاړ نشي. تسلسل یوازې "ورته ګامونه ترسره کول" ندي - دا "د ورته فټ شوي پیرامیټرو او نقشو سره ورته ګامونه ترسره کول" دي
څنګه کولی شم د وخت په تیریدو سره د مخکې پروسس کولو مسلو لکه ډرافټ او سکیو څارنه وکړم؟
حتی د یوې قوي پایپ لاین سره، د تولید معلومات بدلیږي. یوه عامه طریقه دا ده چې د ځانګړتیاوو د ویش بدلونونو څارنه وشي او د روزنې-خدمت کونکي سکیو (تولید له روزنې څخه انحراف کوي) او انفرنس ډرافټ (د وخت په تیریدو سره د تولید بدلونونه) په اړه خبرداری ورکړل شي. څارنه کولی شي سپک وي (د ویش اساسي چکونه) یا اداره شي (لکه د ورټیکس AI ماډل څارنه). هدف دا دی چې د ان پټ بدلونونو ژر تر ژره ونیول شي - مخکې لدې چې دوی ورو ورو د ماډل فعالیت له منځه یوسي.
ماخذونه
[1] scikit-learn API: sklearn.preprocessing (انکوډرونه، سکیلرونه، نورمال کول)
[2] scikit-learn: عامې ستونزې - د معلوماتو لیکیدل او د هغې څخه د مخنیوي څرنګوالی
[3] د مخ ټرانسفارمرونو غېږ نیول اسناد: ټوکنیزرونه (د ننوتلو IDs، د پاملرنې ماسکونه)
[4] د PyTorch Torchvision اسناد: بدلونونه (بیا اندازه کول/نورمال کول + تصادفي بدلونونه)
[5] د ګوګل کلاوډ ورټیکس AI اسناد: د ماډل څارنې عمومي کتنه (د فیچر سکیو او ډریفت)