لائحة الطعام
مجاني
تحقق في
الرئيسية  /  البرامج الثابتة / الشبكات العصبية بكلمات بسيطة. كلمات بسيطة حول صعبة: ما هي الشبكات العصبية؟ تاريخ الشبكات العصبية

الشبكات العصبية هي كلمات بسيطة. كلمات بسيطة حول صعبة: ما هي الشبكات العصبية؟ تاريخ الشبكات العصبية

جيمس لوبي، جامعة جورجيا التكنولوجيا للتكنولوجيا. دليل للمبتدئين، وبعد ذلك يمكنك إنشاء شبكة عصبية خاصة بك على ثعبان.

التحفيز:يركز على خبرة شخصية في تعلم التدريب العميق، قررت إنشاء شبكة عصبية من نقطة الصفر دون مكتبة تدريبية معقدة، مثل، على سبيل المثال. أعتقد أنه بالنسبة لعالم البيانات المبتدئين، من المهم فهم الهيكل الداخلي.

تحتوي هذه المقالة على ما تعلمته، ونأمل أن يكون مفيدا لك! مقالات مفيدة أخرى حول هذا الموضوع:

ما هي الشبكة العصبية؟

يتم تنفيذ معظم المقالات عن الشبكات العصبية مع موازية الدماغ. أنا أسهل لوصفني الشبكات العصبية كدالة رياضية، والتي تعرض الإدخال المحدد إلى النتيجة المرجوة، وليس التفاصيل.

تتكون الشبكات العصبية من المكونات التالية:

  • طبقة مدخل، X
  • عدد التعسفي طبقات خفية
  • طبقة الإخراج، ŷ
  • جلس وزنها و النزوح بين كل طبقة د و ب.
  • اختيار لكل طبقة مخفية σ ؛ في هذا العمل، سوف نستخدم ميزة تنشيط Sigmoid.

يوضح الرسم البياني أدناه الهندسة المعمارية لشبكة عصبية طبقتين (لاحظ أن مستوى الإدخال عادة ما يتم استبعاده عند حساب عدد الطبقات في الشبكة العصبية).

إن إنشاء فئة شبكة عصبية على Python تبدو بسيطة:

تدريب الشبكة العصبية

انتاج | ŷ شبكة بسيطة ثنائية الطبقة العصبية:

في المعادلة المذكورة أعلاه، فإن الوزن W و Offset B هي المتغيرات الوحيدة التي تؤثر على الإخراج ŷ.

بطبيعة الحال، تحدد القيم الصحيحة للأوزان والنزاعات دقة التنبؤات. عملية إعداد رقيقة يعرف المقاييس والنزوحات من بيانات الإدخال كما.

يتكون كل تكرار عملية التعلم من الخطوات التالية

  • حساب الخروج المتوقع ŷ يسمى التوزيع المباشر
  • تحديث الأوزان والنزوحات

يوضح الرسم البياني التسلسل أدناه العملية:

التوزيع المباشر

كما رأينا على الرسم البياني أعلاه، فإن التوزيع المباشر هو ببساطة حوسبة سهلة، وبالنسبة للشبكة العصبية ذات الطبقة الثانية، يتم تقديم انسحاب الشبكة العصبية من قبل الصيغة:

دعنا نضيف وظيفة توزيع مباشرة إلى التعليمات البرمجية الخاصة بنا على Python-E للقيام بذلك. لاحظ أنه بالنسبة للبساطة، اقترحنا أن الإزاحة تساوي 0.

ومع ذلك، تحتاج إلى وسيلة لتقييم "جودة" توقعاتنا، أي مدى توقعاتنا هي). فقدان وظيفة فقط يسمح لنا بذلك.

فقدان وظيفة

هناك العديد من وظائف الخسارة المتاحة، وينبغي أن تملي طبيعة مشكلتنا اختيارا من وظيفة الخسارة. في هذا العمل، سوف نستخدم مجموع مربعات الأخطاء كدالة للخسارة.

مقدار المربعات الخطأ هو متوسط \u200b\u200bالفرق بين كل القيمة المتوقعة والفعالية.

الغرض من التعلم هو العثور على مجموعة من المقاييس والنزوح التي تقلل من وظيفة الخسارة.

التوزيع العكلي

الآن بعد أن قمنا بقياس خطأ توقعاتنا (الخسارة)، نحتاج إلى إيجاد طريقة نشر الخطأ وتحديث الأوزان لدينا وإزاحاتنا.

لمعرفة المبلغ المناسب لضبط الأوزان والنزاعات، نحتاج إلى معرفة الوظيفة المشتقة للخسارة فيما يتعلق بالأوزان والإزاحات.

أذكر من التحليل الذي وظيفة المشتقة هي زاوية الظل من ميل الوظيفة.

إذا كان لدينا مشتق، فيمكننا ببساطة تحديث الأوزان والإزاحات، وزيادة / تقليلها (انظر الرسم البياني أعلاه). تسمى .

ومع ذلك، لا يمكننا حساب مشتق مباشرة وظيفة الخسارة بالنسبة إلى الأوزان والنزوحات، لأن معادلة وظيفة الخسارة لا تحتوي على جداول وتفجيرات. لذلك، نحتاج إلى قاعدة سلسلة للمساعدة في الحساب.

فوش! كانت مرهقة، لكنها سمحت بالحصول على ما نحتاجه - مشتق (إمالة) من وظائف الخسارة فيما يتعلق بالأوزان. الآن يمكننا ضبط الأوزان بشكل مناسب.

أضف ميزة BackPropagation إلى التعليمات البرمجية الخاصة بنا على Python-E:

التحقق من عمل الأعصاب

الآن الآن لدينا رمز كامل على Python-E لتنفيذ التوزيع المباشر والعكس، دعونا نلقي نظرة على شبكتنا العصبية على المثال ومعرفة كيفية عملها.


مجموعة مثالية من المقاييس

يجب أن تستكشف الشبكة العصبية لدينا مجموعة مثالية من المقاييس لعرض هذه الوظيفة.

دعونا نربط الشبكة العصبية ل 1500 تكرار ونرى ما يحدث. بالنظر إلى جدول الخسائر في التكرار أدناه، يمكننا أن نرى بوضوح أن الخسارة تنخفض رائعة إلى الحد الأدنى. هذا يتفق مع خوارزمية نزول التدرج، والتي قلناها في وقت سابق.

دعونا نلقي نظرة على التنبؤ النهائي (الإخراج) من الشبكة العصبية بعد 1500 تكرارات.

لقد فعلناها!أظهرت خوارزمية النشر المباشرة والعائد الخاصة بنا التشغيل الناجح للشبكة العصبية، وتتكاثر التنبؤات على القيم الحقيقية.

لاحظ أن هناك اختلاف طفيف بين التنبؤات والقيم الفعلية. هذا أمر مرغوب فيه لأنه يمنع شبكة الخلايا العصبية بشكل أفضل لتعميم البيانات غير المرئية.

الانعكاسات النهائية

لقد تعلمت الكثير في عملية الكتابة من الصفر شبكة بلدي العصبية. على الرغم من أن مكتبات التعلم العميق، مثل Tensorflow و Keras، تسمح بإنشاء شبكات عميقة دون فهم كامل للعمل الداخلي للشبكة العصبية، أجد أن عالم البيانات المبتدئين - أنا مفيد للحصول على فهمهم الأعمق.

لقد استثمرت الكثير من وقتي الشخصية هذا العملوآمل أن يكون مفيدا لك!


ترتبط العديد من المصطلحات في الشبكات العصبية بيولوجيا، لذلك دعنا نبدأ من البداية:

الدماغ معقد، ولكن يمكن تقسيمها إلى العديد من الأجزاء والعمليات الرئيسية:

قد يكون الوكيل المسبب داخلي(على سبيل المثال، صورة أو فكرة):

والآن نلقي نظرة على الرئيسية والمبسط القطعمخ:


يشبه الدماغ عموما شبكة الكابل.

الخلايا العصبية- الوحدة الرئيسية للحساب التفاضل والتكامل في المخ، فإنها تتلقى ويعالج الإشارات الكيميائية من الخلايا العصبية الأخرى، وهذا يتوقف على عدد من العوامل، أو لا تفعل شيئا، أو يولد نبض كهربائي، أو إمكانات الإجراء، والذي يقود الإشارات لضبط متصلالخلايا العصبية:

الأحلام والذكريات والحركات التنظيمية الذاتية وردود الفعل وبالفعل كل ما تعتقده أو فعله - كل شيء يحدث بسبب هذه العملية: الملايين أو حتى مليارات الخلايا العصبية تعمل على مستويات مختلفة وإنشاء اتصالات تخلق مختلف النظم الفرعية الموازية وهي العصبية البيولوجية صافي.

بالطبع، كلها مبسطة وتعميمات، ولكن بفضلهم أن نصف بسيطة
الشبكة العصبية:

ويتم إضفاء الطابع الرسمي لوصفه مع الرسم البياني:

بعض التفسيرات مطلوبة هنا. الأقداح هي الخلايا العصبية والخطوط هي اتصالات بينهم،
وليس لتعقد في هذه المرحلة، تصالحتمثل الحركة المباشرة للمعلومات من اليسار الى اليمينوبعد الخلايا العصبية الأولى ب. هذه اللحظة نشط وأسلط الضوء الرمادي. كما عينه رقما (1 - إذا كان يعمل، 0 - إن لم يكن). أرقام بين الخلايا العصبية وزنالاتصالات.

تظهر الرسوم البيانية أعلاه لحظة وقت الشبكة، بالنسبة لرسم خرائط أكثر دقة، تحتاج إلى تقسيمها إلى قطاعات مؤقتة:

لإنشاء شبكتك العصبية، تحتاج إلى فهم كيف تؤثر الأوزان على الخلايا العصبية وكيف يتم تدريب الخلايا العصبية. كمثال، خذ أرنب (اختبار الأرنب) ووضعه في ظروف التجربة الكلاسيكية.

عندما يتم إرسالها بواسطة طائرة آمنة من الهواء، الأرانب، مثل الناس، وميض:

يمكن رسم نموذج السلوك هذا بواسطة الرسوم البيانية:

كما هو الحال في المخطط السابق، تظهر هذه الرسوم البيانية هذه اللحظة فقط عندما يشعر الأرنب بالنفخ، ونحن كذلك ترميزوميض كقيمة منطقية. بالإضافة إلى ذلك، نقوم بحساب ما إذا كان الخلايا العصبية الثانية التي يتم تشغيلها، بناء على قيمة الوزن. إذا كان مساويا ل 1، فإن اللمس يعمل Neoron، نحن نوم إذا كان الوزن أقل من 1، فإننا لا ندمء: الخلايا العصبية الثانية حد- 1.

نقدم عنصر آخر - آمن إشارة الصوت:

يمكننا محاكاة مصلحة الأرنب مثل هذا:

الفرق الرئيسي هو أن الوزن الآن متساو صفرلذلك نحن لم نحصل على أرنب وميض، حسنا، في الوقت الحالي، على الأقل. الآن تعليم الأرنب الوامض على الفريق، خلط
المحفزات (صفير ونفخ):

من المهم أن تحدث هذه الأحداث في مؤقت مختلف اعصففي الرسوم البيانية سوف تبدو وكأنها هذه:

من تلقاء نفسها، لا شيء لا يفعل شيئا، لكن تدفق الهواء لا يزال يجعل غمضة الأرانب، ونرى ذلك من خلال الأوزان مضروبة في المحفزات (الأحمر).

تمرينيمكن تبسيط السلوك المعقد كغير تغيير تدريجي بين الخلايا العصبية المرتبطة بمرور الوقت.

لتدريب الأرانب، كرر العمل:

فيما يتعلق بالمحاولات الثلاث الأولى للمخطط هكذا:

يرجى ملاحظة أن الوزن لتحفيز الصوت ينمو بعد كل تكرار (أبرز باللون الأحمر)، هذه القيمة الآن تعسفية - اخترنا 0.30، لكن الرقم يمكن أن يكون أي شيء، حتى سلبي. بعد التكرار الثالث، لن تلاحظ التغييرات في سلوك الأرانب، ولكن بعد العكس الرابع، سيحدث شيء مفاجئ - سوف يتغير السلوك.

أزلنا آثار الهواء، لكن الأرانب لا يزال يومض، بعد أن سمعت صوتا! اشرح هذا السلوك يمكن أن مخططنا الأخير:

لقد تدربنا الأرنب للرد على صوت وامض.


في تجربة حقيقية، قد يتطلب هذا النوع أكثر من 60 تكرارا لتحقيق النتيجة.

الآن سنترك العالم البيولوجي للدماغ والأرانب ومحاولة تكييف كل ما
اكتشف لإنشاء شبكة عصبية اصطناعية. لتبدأ، دعنا نحاول تقديم مهمة بسيطة.

افترض أن لدينا آلة مع أربعة أزرار، والتي تعطي الطعام عند الضغط بشكل صحيح
أزرار (حسنا، أو طاقة، إذا كنت روبوت). المهمة هي معرفة أي زر يعطي الأجر:

يمكننا تصوير (تخطيطي)، مما يجعل الزر عند الضغط عليه كما يلي:

هذه المهمة أفضل لحل الكل، لذلك دعونا نلقي نظرة على جميع النتائج الممكنة، بما في ذلك الصحيح:


انقر فوق الزر 3RD للحصول على العشاء الخاص بك.

لإعادة إنتاج الشبكة العصبية في التعليمات البرمجية، نحتاج إلى إنشاء نموذج أو رسم بياني لتبدأ به من حيث يمكنك مطابقة الشبكة. فيما يلي جدول واحد مناسب للمهمة، بالإضافة إلى ذلك، يعرض التناظرية البيولوجية:

هذه الشبكة العصبية تتلقى ببساطة معلومات واردة - في هذه الحالة، سيكون تصور أي زر يتم الضغط عليه. بعد ذلك، تحل الشبكة محل المعلومات الواردة عن الوزن وتجعل الإخراج بناء على إضافة الطبقة. يبدو مربكا بعض الشيء، ولكن دعونا نرى كيف يتم تقديم الزر في طرازنا:


يرجى ملاحظة أن جميع الأوزان تساوي 0، وبالتالي فإن الشبكة العصبية، مثل الطفل، فارغة تماما، ولكن مترابطة تماما.

وبالتالي، نقارن الحدث الخارجي مع طبقة مدخل للشبكة العصبية وحساب القيمة في إخراجها. قد يتزامن أم لا يتزامن مع الواقع، لكننا لا نزال نتجاهل والبدء في وصف مهمة جهاز كمبيوتر واضح. لنبدأ بإدخال المقاييس (سوف نستخدم JavaScript):

var المدخلات \u003d؛ var الأوزان \u003d؛ // للراحة، يمكن استدعاء هذه الناقرات
والخطوة التالية هي إنشاء وظيفة تقوم بجمع قيم الإدخال والأوزان وحساب القيمة عند الإخراج:

الوظيفة EvaluateneuralNetworknetworkworkwork (Inputvector، Mendvector) (Var نتيجة \u003d 0؛ InputVector.foreach (Layervalue \u003d InputValue * الأثقال؛ النتيجة + \u003d Layervalue؛)؛ العودة (نتيجة. التفسد (2))؛) / / قد يبدو معقدا، ولكن كل شيء أنها تفعل هي تقارن أزواج الوزن / المدخلات وتضيف النتيجة
كما هو متوقع، إذا بدأنا هذا الرمز، فسنحصل على نفس النتيجة كما في نموذجنا أو الرسومات ...

EvaluateneuralNetwork (المدخلات والأوزان)؛ // 0.00.
مثال حي: Net Net 001.

الخطوة التالية في تحسين الأعصاب لدينا ستكون هناك طريقة للتحقق من عطلات نهاية الأسبوع الخاصة بها أو قيمها الناتجة مماثلة للوضع الحقيقي،
دعونا أولا تدوين هذا الواقع المعين في المتغير:

للكشف عن التناقضات (وكم)، سنضيف وظيفة خطأ:

خطأ \u003d الواقع - الناتج الصافي العصبي
مع ذلك، يمكننا تقييم عمل شبكتنا العصبية:

ولكن الأهم من ذلك - ماذا عن المواقف عندما تعطي الواقع نتيجة إيجابية؟

الآن نحن نعلم أن نموذجنا للشبكة العصبية لا يعمل (ونحن نعرف كم)، عظيم! إنه رائع لأنه الآن يمكننا استخدام وظيفة الخطأ لإدارة التعلم لدينا. ولكن كل هذا سيضمن المعنى إذا أعد تحديد وظيفة الخطأ كما يلي:

خطأ \u003d. النتيجة المرجوة. - الناتج الصافي العصبي
بعيد المنال، ولكن هذا التناقض الهام، يظهر بصمت أننا سوف
استخدام النتائج التي تم الحصول عليها مسبقا للمقارنة مع الإجراءات المستقبلية
(والتعلم، كما سنرى ذلك بعد ذلك). إنه موجود في الحياة الحقيقية، كاملة
أنماط متكررة، لذلك يمكن أن تصبح استراتيجية تطورية (حسنا، في
أغلب الحالات).

var المدخلات \u003d؛ var الأوزان \u003d؛ var desiredresult \u003d 1؛
وميزة جديدة:

Function EvaluateneuralTror (المطلوب، الفعلي)؛) // بعد تقييم كل من الشبكة والخطأ الذي سنحصل عليه: // "الناتج الصافي العصبي: 0.00 خطأ: 1"
مثال حي: Net 002 العصبي.

دعونا تلخيص النتيجةوبعد بدأنا مع المهمة، جعلها نموذج بسيط في شكل شبكة عصبية بيولوجية وطريقة لقياس أدائها مقارنة بالواقع أو النتيجة المرجوة تم الحصول عليها. الآن نحتاج إلى إيجاد طريقة لتصحيح عدم التسوية - عملية، سواء بالنسبة لأجهزة الكمبيوتر والأشخاص يمكن اعتبارها التدريب.

كيفية تدريب شبكة عصبية؟

أساس التدريب الشبكي العصبي البيولوجي والاصطناعي هو التكرار.
و خوارزميات التدريبلذلك سوف نعمل معهم بشكل منفصل. دعنا نبدأ من قبل
خوارزميات التدريب.

في الطبيعة، تحت خوارزميات التدريب تتم الإشارة إلى التغييرات في الجسدية أو الكيميائية
خصائص الخلايا العصبية بعد التجارب:

توضيح مثيرة لدرجة أن اثنين من الخلايا العصبية تتغير بعد الوقت في الكود ونموذج "خوارزمية التعلم" تعني أننا سنغير شيئا ما لبعض الوقت لتخفيف حياتك. لذلك، دعنا نضيف متغيرا لتعيين درجة تخفيف الحياة:

Var Learnerate \u003d 0.20؛ // القيمة الأكبر، سيكون هناك عملية تعليمية :)
وماذا سيغير؟

سيؤدي ذلك إلى تغيير الوزن (تماما مثل الأرنب!)، وخاصة وزن الإخراج الذي نريد الحصول عليه:

كيفية تشفير مثل هذه الخوارزمية - اختيارك، وأضيف معامل تعلم الوزن للبساطة، وهنا في شكل وظيفة:

وظيفة تعلم (الأثقال .forceach (وظيفة (الوزن، الفهرس، الأوزان) (إذا (INPUTVECTOR\u003e 0) (الأوزان \u003d الوزن + المعهد؛))؛)؛)؛)؛
عند استخدامها، ستضيف وظيفة التدريب هذه ببساطة معامل تدريب ناقلات الوزن نشط نورونا، قبل وبعد دائرة التعلم (أو التكرار)، ستكون النتائج:

// ناقلات الوزن الأصلي: // الناتج الصافي العصبي: 0.00 خطأ: 1 تعلم (المدخلات والأوزان)؛ // جديد ناقلات الوزن: // الناتج الصافي العصبي: 0.20 خطأ: 0.8 // إذا لم يكن واضحا، فإن انسحاب الشبكة العصبية قريبة من 1 (إصدار الدجاج) - ما أردنا، حتى نتمكن من استنتاجنا تتحرك في الاتجاه الصحيح
مثال حي: Net 003 العصبي.

حسنا، الآن أننا نتحرك في الاتجاه الصحيح، فإن التفاصيل الأخيرة من هذا اللغز سوف تقدم يكرر.

هذه ليست صعبة للغاية، في الطبيعة، نفعل نفس الشيء مرة أخرى مرارا وتكرارا، وفي الكود، نشير ببساطة إلى عدد التكرار:

محاكمات var \u003d 6؛
وستظل إدخال عدد التكرار مثل هذا في شبكة التعلم العصبية.

تدريب الدالة (التجارب) (ل (i \u200b\u200b\u003d 0؛ أنا< trials; i++) { neuralNetResult = evaluateNeuralNetwork(input, weights); learn(input, weights); } }
حسنا، تقريرنا النهائي:

الناتج الصافي العصبي: 0.00 خطأ: 1.00 ناقلات الوزن: إخراج صافي العصبي: 0.80 ناقلات الوزن: الناتج الصافي العصبي: 0.40 خطأ: 0.60 ناقلات الوزن: ناتج صافي العصبي: 0.60 خطأ: 0.40 ناقلات الوزن: ناتج صافي العصبي: 0.80 خطأ : 0.20 ناقل الوزن: الناتج الصافي العصبي: 1.00 خطأ: 0.00 ناقل الوزن: // دجاج عشاء!
مثال حي: Net 004 العصبي.

الآن لدينا ناقلات الوزن، مما سيعطي نتيجة واحدة فقط (دجاج لتناول العشاء)، إذا كان متجه الإدخال يتوافق مع الواقع (الضغط على الزر الثالث).

إذن ما هو بارد نحن فقط فعلنا؟

في هذا حالة ملموسة يمكن أن تتعرف الشبكة العصبية الخاصة بنا (بعد التدريب) على بيانات الإدخال وتقول إنها ستؤدي إلى النتيجة المرجوة (سنظل بحاجة إلى برمجة حالات محددة):

بالإضافة إلى ذلك، إنها نموذج قابل للتطوير، لعبة وأداة لتعلمنا معك. تمكنا من تعلم شيء جديد حول تعلم الآلات والشبكات العصبية والذكاء الاصطناعي.

حكاية المستخدمين:

  • لا يتم توفير آلية تخزين المقاييس المدروسة، بحيث تنسى هذه الشبكة العصبية كل ما يعرفه. عند تحديث أو إعادة تشغيل التعليمات البرمجية أو إعادة تشغيلها، تحتاج إلى ستة ناجحة على الأقل حتى يتم تدريب الشبكة بالكامل، إذا كنت تعتقد أن الشخص أو الجهاز سيضغط على الأزرار في ترتيب عشوائي ... سيستغرق الأمر بعض الوقت.
  • الشبكات البيولوجية لتعلم الأشياء الهامة لها سرعة التعلم 1، لذلك تحتاج فقط كرر ناجح واحد فقط.
  • هناك خوارزمية للتعلم، مماثلة جدا من الخلايا العصبية البيولوجية، اسمه جذاب: الحكم widrof-hoff، أو تعلم widroff-hoff.
  • عتبات الخلايا العصبية (1 في مثالنا) وآثار إعادة التدريب (مع عدد كبير من التكرار، والنتيجة ستكون أكبر من 1) لا تؤخذ في الاعتبار، لكنها مهمة جدا في الطبيعة وهي مسؤولة عن كبير ومعقد كتل ردود الفعل السلوكية. مثل الأوزان السلبية.

ملاحظات ومراجع لمزيد من القراءة

حاولت تجنب الرياضيات والشروط الصارمة، ولكن إذا كنت مهتما، فقد بنينا Perceptron، والتي يتم تعريفها على أنها خوارزمية التدريب السيطرة (التدريب مع المعلم) من المصنفين المزدوجين - شيء ثقيل.

الهيكل البيولوجي للدماغ ليس موضوعا بسيطا، ويعزى ذلك جزئيا إلى عدم الدقة، جزئيا بسبب تعقيده. من الأفضل أن تبدأ بالعلوم العصبية (الطيور) والعلاج العصبي المعرفي (Gazzaniga). لقد غيرت وتكييف مثالا مع أرنب من بوابة إلى الذاكرة (Gluck)، وهو أيضا موصل ممتاز في عالم الرسوم البيانية.

مورد شيك آخر مقدمة في الشبكات العصبية (Gurney) مناسب لجميع احتياجاتك في EI.

والآن على بيثون! شكرا لك ilee andshmidt للحصول على النسخة المقدمة على بيثون:

المدخلات \u003d الأوزان \u003d Desired_Result \u003d 1 Learning_Rate \u003d 0.2 Trials \u003d 6 def تقييم _neural_network (INPUT_Array، weight_array): النتيجة \u003d 0 لأني في النطاق (LEN (INPUT_Array)): Layer_Value \u003d Input_Array [i] * Weight_Array [i] نتيجة + \u003d Layer_Value طباعة ("تقييم_الوريال_netal_network:" + Str (نتيجة لذلك)) طباعة ("الأوزان:" + Str (الأوزان)) إرجاع النتيجة DEF تقييم ERYAURE_ERROR (المطلوب، الفعلي): الخطأ \u003d المطلوب - الطباعة الفعلية ("تقييم_يرور:" + str (خطأ) خطأ RESTER RAVE LEAD (INPUT_Array، Weight_Array): طباعة ("التعلم ...") لأني في النطاق (LEN (INPUT_Array)): إذا أدخلت INPUT_ARRAY [i]\u003e 0: weight_array [i] + \u003d tearning_rate def train (المحاكمات) : لأني في النطاق (التجارب): neural_net_result \u003d تقييم_neural_network (المدخلات والأوزان) تعلم (المدخلات والأوزان) (المحاكمات)
والآن اذهب! شكرا لك على هذا الإصدار كيرانا ماهر.

حزمة الاستيراد الرئيسية ("FMT" "Math") Func الرئيسية () (FMT.PRINTLN ("إنشاء المدخلات والأوزان ...") المدخلات: \u003d Float64 (0.00، 0.00، 1.00، 0.00) الأوزان: \u003d Float64 (0.00، 0.00، 0.00، 0.00، 0.00) المرغوب: \u003d 1.00 مبنى: \u003d 0.20 تجارب: \u003d 6 قطار (تجارب، المدخلات، الأوزان، المرغوب فيها، المعهد)) قطار func (تجارب int، المدخلات float64، الأوزان float64، المرغوب فيها 64، التعلم float64) ( لأني: \u003d 1؛ أنا< trials; i++ { weights = learn(inputs, weights, learningRate) output:= evaluate(inputs, weights) errorResult:= evaluateError(desired, output) fmt.Print("Output: ") fmt.Print(math.Round(output*100) / 100) fmt.Print("\nError: ") fmt.Print(math.Round(errorResult*100) / 100) fmt.Print("\n\n") } } func learn(inputVector float64, weightVector float64, learningRate float64) float64 { for index, inputValue:= range inputVector { if inputValue > 0.00 (الأوبنف \u003d الأثقال + المعهد)) إرجاع الأثقال) Func تقييم (INPutVector Float64، الأثقال Float64) Float64 (النتيجة: \u003d 0.00 للفهرس، InputValue: \u003d Range Inputvector (Layervalue: \u003d InputValue * نتيجة الأثقال \u003d النتيجة + Layervalue) ) func تقييم dreamerror (المرغوب المرغوب 64، float64 الفعلي) float64 (العودة المرغوبة - الفعلية)

يمكنك المساعدة وترجمتها بعض المال في تطوير الموقع.

 

neuraletas الآن في الأزياء، وليس دون جدوى. بمساعدتهم، يمكنك، على سبيل المثال، تعترف بالكائنات في الصور أو على العكس من ذلك، ارسم كوابيس كوابيس سلفادور دالي. بفضل المكتبات المريحة، يتم إنشاء أبسط الشبكات العصبية من قبل زوج كامل من صفوف التعليمات البرمجية، لن تذهب إلى النداء إلى ذكاء IBM الاصطناعي.

نظرية

لا يزال علماء الأحياء لا يعرفون بالضبط كيف يعمل الدماغ، ولكن مبدأ التشغيل العناصر الفردية الجهاز العصبي مدروس جيدا. وهي تتألف من الخلايا العصبية - خلايا متخصصة تبادل إشارات الكهروكيميائية فيما بينها. كل عصبي لديه العديد من dendrites ومحق واحد. يمكن مقارنة Dendriti مع المداخل التي يتم من خلالها تلقي البيانات في الخلايا العصبية، يخدم Axon إخراجه. وتسمى المركبات بين Dendrites ومحور المحور. إنهم لا ينقلون إشارات فحسب، بل يمكنهم أيضا تغيير سعةهم وتكرارهم.

التحولات التي تحدث على مستوى الخلايا العصبية الفردية بسيطة للغاية، ولكن حتى الشبكات العصبية الصغيرة للغاية قادرة على الكثير. جميع مجموعة متنوعة من سلوك الدودة Caenorhabditis elegans - الحركة، البحث الغذائي، ردود الفعل المختلفة على المحفزات الخارجية وأكثر من ذلك بكثير هو مشفرة في ثلاثمائة عصبي. وديدان حسنا! حتى النمل يمسك 250 ألف خلايا من الخلايا العصبية، وما الذي يفعلونه، والسيارات غير قادرة بالتأكيد.

منذ ما يقرب من ستين عاما، حاول الباحث الأمريكي فرانك روزنبلاط إنشاء نظام الكمبيوتر، مرتبة في صورة وتشابه الدماغ، لكن إمكانيات خلقه كانت محدودة للغاية. تم حظر الاهتمام بالشبكات العصبية مرارا وتكرارا، ولكن مرة واحدة تتحول إلى أن قوة الحوسبة تفتقر إلى أي شبكة عصبية متقدمة. على مدى العقد الماضي، تغير الكثير في هذا الصدد.

الدماغ الكهروميكانيكية مع المحرك

تم استدعاء سيارة Rosenblatt علامة I Perceptron. كان يهدف إلى التعرف على الصور - المهام التي لا تزال أجهزة الكمبيوتر التي لا تزال تعامل مع ذلك. مارك كنت مجهزة بمجموعة مختارة من شبكية العين: مصفوفة مربع من 400 مصري، وعشرون عمودي وعشرون أفقيا. خلايا الصور مرتبطة عشوائيا بنماذج الخلايا العصبية الإلكترونية، وهي، بدورها، إلى ثمانية مخرجات. كشراقبة ربط الخلايا العصبية الإلكترونية، التصوير الضوئي والمخارج، Rosenblatt المستخدمة في الجهد. عند تدريب Perceptron 512 Superper Motors، يتعامل مقياس الجهد الذي تم تدويره تلقائيا، وضبط الإجهاد على الخلايا العصبية، وهذا يتوقف على دقة نتيجة الإخراج.

هنا في كلمتين، كيف يعمل إلى Neurallet. الخلايا العصبية الاصطناعية، كما هو حقيقي، لديه العديد من المدخلات وإخراج واحد. كل مدخل لديه معامل الوزن. عن طريق تغيير هذه المعاملات، يمكننا تدريب الشبكة العصبية. يحدد اعتماد الإشارة على منفذ من إشارات الإدخال وظيفة التنشيط المزعومة.

في Percepton of Rosenblatt، قامت وظيفة التنشيط بتطوي وزن جميع المدخلات التي تم استلام الوحدة المنطقية فيها، ثم مقارنة النتيجة بقيمة العتبة. وكان لها ناقصها أن تغيير طفيف في أحد معاملات الوزن مع هذا النهج قادر على الحصول على تأثير مهم بشكل غير متناسب على النتيجة. هذا يجعل من الصعب التدريس.

في الشبكات العصبية الحديثة، تستخدم وظائف التنشيط غير الخطية عادة، مثل Sigmoid. بالإضافة إلى ذلك، كانت الشبكات العصبية القديمة قليلة الطبقات. الآن بين المدخلات والإخراج، عادة ما تحتوي الطبقات الخفية أو أكثر من الخلايا العصبية. هذا هو كل شيء الأكثر إثارة للاهتمام.

لتسهيل فهم ما نتحدث عنه، انظر إلى هذا المخطط. هذه هي شبكة عصبية للتوزيع المباشر مع طبقة خفية واحدة. كل دائرة تتوافق مع الخلايا العصبية. اليسار هي الخلايا العصبية من طبقة مدخل. على اليمين - الخلايا العصبية لطبقة الإخراج. في الوسط هناك طبقة خفية مع أربعة خلايا عصبية. يتم توصيل مخرجات جميع الخلايا العصبية لطبقة الإدخال بكل عصبي من الطبقة الخفية الأولى. بدوره، ترتبط مدخلات طبقة إخراج الخلايا العصبية بجميع مخرجات الخلايا العصبية الطبقة الخفية.

لا يتم ترتيب جميع الشبكات العصبية بهذه الطريقة. على سبيل المثال، هناك شبكات (وإن كانت أقل شيوعا)، حيث يتم تطبيق الإشارة من الخلايا العصبية ليس فقط على الطبقة التالية، مثل شبكة التوزيع المباشر من مخططنا، ولكن أيضا في الاتجاه المعاكس. وتسمى مثل هذه الشبكات المتكررة. الطبقات المتصلة بالكامل هي أيضا واحدة فقط من الخيارات، ونحن حتى لمس واحد من البدائل.

ممارسة

لذلك، دعونا نحاول بناء أبسط الشبكة العصبية بيديك ويتناولها في عملها على طول الطريق. سوف نستخدم Python مع مكتبة Numpy (يمكن للمرء أن يفعله بدون Numpy، ولكن مع Numpy Algebra الخطي يأخذ قوة أقل). يعتمد المثال قيد النظر على Endru Tracke.

سنحتاج إلى وظائف لحساب السيني ومشتقاتها:

استمرار متاح فقط للمشاركين

الخيار 1. انضم إلى مجتمع الموقع لقراءة جميع المواد الموجودة على الموقع

ستفتح عضوية المجتمع خلال الفترة المحددة في الوصول إلى جميع مواد القراصنة، وسوف تزيد خصمك التراكمي الشخصي وسوف تتراكم تصنيف درجة XakeP المهنية!

في النصف الأول من عام 2016، سمع العالم العديد من التطورات في مجال الشبكات العصبية - تم إظهار خوارزمياتها بواسطة Google (مشغل الشبكة في Alphago)، Microsoft (عدد من الخدمات لتحديد الصور)، MSQRD، Startups Prisma وغيرها وبعد

إلى الإشارات المرجعية

يقول مجلس التحرير أنهم شبكات عصبية، والتي يحتاجون إليها، ولماذا استولوا على الكوكب الآن، وقبل سنوات أو في وقت لاحق، كم منهم يمكن الحصول على الكثير منهم واللاعبين الرئيسيين في السوق. كما تمت مشاركة خبراء من MIDT و Yandex و Mail.ru ومجموعة Microsoft من قبل آرائهم.

ما هي الشبكات العصبية وما المهام التي يمكنهم حلها

الشبكات العصبية هي واحدة من الاتجاهات في تطوير أنظمة الاستخبارات الاصطناعية. تتمثل الفكرة في محاكاة عمل الجهاز العصبي البشري عن كثب - وهي قدرتها على التعلم والصحيح الأخطاء. هذا يتكون الميزة الأساسية يمكن لأي شبكة عصبية أن تدرس بشكل مستقل وتتصرف على أساس التجربة السابقة، مما يجعل أخطاء أقل وأقل في كل مرة.

Meuraletima يحاكي ليس فقط النشاط، ولكن أيضا هيكل الجهاز العصبي البشري. تتكون هذه الشبكة من عدد كبير من عناصر الحوسبة الفردية ("الخلايا العصبية"). في معظم الحالات، يشير كل "Neuron" إلى طبقة محددة من الشبكة. يتم معالجة بيانات الإدخال بالتتابع على جميع طبقات الشبكة. قد تختلف معلمات كل "الخلايا العصبية" اعتمادا على النتائج التي تم الحصول عليها على مجموعات الإدخال السابقة، مما يؤدي إلى تغيير تشغيل النظام بأكمله.

يرتدي رأس "Search Mail.ru" في Mail.Ru Group Andrei Kalinin أن الشبكات العصبية قادرة على حل نفس المهام مثل خوارزميات تعلم الآلات الأخرى، فإن الفرق يكمن فقط في نهج التعلم.

جميع المهام التي يمكن أن تحل الشبكات العصبية مرتبطة بطريقة أو بأخرى للتعلم. من بين المجالات الرئيسية للشبكات العصبية تتوقع، صنع القرار، التعرف على الصورة، التحسين، تحليل البيانات.

يذكر مدير برامج التعاون التكنولوجي في Microsoft في روسيا، يلاحظ فلاد سيرشولكي أن الشبكات العصبية تستخدم الآن في كل مكان: "على سبيل المثال، تستخدمها العديد من مواقع الإنترنت الكبيرة لإجراء استجابة لسلوك المستخدمين لجمهور أكثر طبيعية ومفيدة. neuraletas تكمن وراء الغالبية الأنظمة الحديثة الاعتراف وتوليف الكلام، وكذلك الاعتراف ومعالجة الصور. يتم استخدامها في بعض أنظمة الملاحة، سواء الروبوتات الصناعية أو السيارات بدون طيار. تحمي الخوارزميات القائمة على الشبكة العصبية أنظمة المعلومات من هجمات المهاجمين والمساعدة في تحديد المحتوى غير القانوني على الشبكة. "

في المستقبل القريب (5-10 سنوات)، يعتقد Sershulsky، وسيتم استخدام الشبكات العصبية أوسع:

تخيل التجمع الزراعي، والآليات التنفيذية التي تم تجهيزها بمجموعة متنوعة من كاميرات الفيديو. يصنع خمسة آلاف صورة في الدقيقة لكل مصنع في حارة مساره، واستخدام الشبكة العصبية، والتحليلات - سواء كان ذلك ليس من الأعشاب، سواء كان لا يتأثر بالمرض أو الآفات. ويعالج كل مصنع على حدة. خيالي؟ لم تعد على الإطلاق. وفي خمس سنوات يمكن أن تصبح القاعدة. - فلاد شيرسون، مايكروسوفت

يقود رئيس مختبر النظم العصبية ومركز التدريب العميق لنظم المعيشة MFTI ميخائيل Burtsev خريطة مزعومة لتطوير الشبكات العصبية للفترة 2016-2018:

  • أنظمة الاعتراف وتصنيف الكائنات على الصور؛
  • واجهات الصوت التفاعل على شبكة الإنترنت؛
  • أنظمة مراقبة جودة الخدمة في مراكز الاتصال؛
  • استكشاف الأخطاء وإصلاحها أنظمة (بما في ذلك التنبؤ الوقت صيانة)، الشذوذ، والتهديدات الجسدية عبر الإنترنت؛
  • نظم السلامة والمراقبة الفكرية؛
  • استبدال روبوتات جزء من وظائف مشغلي مركز الاتصال؛
  • أنظمة تحليلات الفيديو؛
  • أنظمة التعلم الذاتي التي تحقق إدارة تدفقات المواد أو موقع الكائنات (في المستودعات والنقل)؛
  • أنظمة إدارة التعليم الذاتي الذكي للعمليات والأجهزة الصناعية (بما في ذلك الروبوتات)؛
  • ظهور أنظمة الترجمة الشاملة "على ذبابة" للمؤتمرات والاستخدام الشخصي؛
  • مظهر بوت الاستشاريين دعم فني أو المساعدين الشخصيين، على وظائف متعة لشخص.

يعتقد مدير تكنولوجيا ياندكس لتكنولوجيا غريغوري باكونوف أن الأساس لتوزيع الشبكة العصبية في السنوات الخمس المقبلة سيكون قدرة هذه الأنظمة على قبول القرارات المختلفة: "الشيء الرئيسي هو أن الشبكات العصبية تجعل الآن لشخص - حفظه من صنع القرار المفرط. لذلك يمكن استخدامها في كل مكان تقريبا، حيث لا توجد حلول ذكية للغاية لشخص حي. في السنوات الخمس المقبلة، سيتم تشغيل هذه المهارة، والتي ستحل محل اتخاذ القرارات على مركبة بسيطة ".

لماذا أصبحت الشبكات العصبية تحظى بشعبية كبيرة الآن

يشارك العلماء في تطوير الشبكات العصبية الاصطناعية على مدار 70 عاما. يشار إلى المحاولة الأولى لإضفاء الطابع الرسمي على الشبكة العصبية عام 1943، عندما قدم اثنان من العلماء الأمريكيين (Warren McKallock و Walter Pitts) مقالا عن التفاضل والتكامل المنطقي للأفكار الإنسانية والنشاط العصبي.

ومع ذلك، حتى وقت قريب، يقول أندري كالينين من مجموعة Mail.ru، كانت سرعة الشبكة العصبية منخفضة للغاية حتى يتمكنوا من الحصول على نطاق واسع، وبالتالي تم استخدام هذه الأنظمة بشكل أساسي في تطوير رؤية الكمبيوتر، وتم استخدام الخوارزميات الأخرى في مجالات أخرى. التعلم الآلي.

يمثل الجزء المستهل للوقت والجزء الطويل من عملية تطوير الشبكات العصبية. من أجل أن تحل الشبكة العصبية لحل المهام بشكل صحيح، فهي مطلوبة "تشغيل" عملها على عشرات الملايين من مجموعات المدخلات. إنه مع ظهور تقنيات مختلفة للتعلم المتسارع وربط انتشار الشبكة العصبية أندريه كالينين ويجري باكونوف.

الشيء الرئيسي الذي حدث الآن هو الحيل المختلفة التي تسمح بشبكات عصبية، أقل بكثير عرضة لإعادة التدريب. - غريغوري باكونوف، ياندكس

"أولا، ظهرت مجموعة كبيرة ومتاحة للجمهور من الصور المميزة التي يمكنك دراسةها. ثانيا، تتيح بطاقات الفيديو الحديثة مائة مرة أسرع لتدريس الشبكات العصبية واستخدامها. ثالثا، جاهز، شبكات عصبية جاهزة، تعترف بالصور، على أساس ما يمكنك تقديم طلباتك، ولا تشارك في إعداد طويل الأجل للشبكة العصبية للعمل. كل هذا يضمن تطورا قويا للغاية للشبكات العصبية على وجه التحديد في مجال التعرف على الصورة "، ملاحظات Kalinin.

ما هي مجلدات سوق الشبكة العصبية

"من السهل جدا حساب. يمكنك أن تأخذ أي منطقة تستخدم فيها العمالة المنخفضة المهرة - على سبيل المثال، عمل مشغلي مراكز الاتصال - ومجرد خصم جميع الموارد البشرية. أود أن أقول أننا نتحدث عن سوق متعدد مليارات الدولارات حتى داخل بلد منفصل. كم من الأشخاص في العالم يشاركون في أعمال منخفضة المهارات، يمكن فهمها بسهولة. يقول جريجوري باكونوف، مدير نشر تكنولوجيات ياندكس: "حتى أننا نتحدث بشكل مجردة للغاية، فإنني أعتقد أننا نتحدث عن السوق بمارته الشائكة في جميع أنحاء العالم".

وفقا لبعض التقديرات، ستتم أتمتة أكثر من نصف المهن - هذا هو الحد الأقصى للحجم الذي يمكن زيادة فيه سوق خوارزميات التعلم الآلي (والشبكات العصبية على وجه الخصوص) .- Andrei Kalinin، Mail.ru Group

"خوارزميات التعلم الآلية هي الخطوة التالية في أتمتة أي عمليات في تطوير أي البرمجياتوبعد لذلك، يتزامن السوق على الأقل مع السوق بأكمله من البرامج، بل يتفوق عليه، لأنه يصبح من الممكن إجراء حلول فكرية جديدة يتعذر الوصول إليها على البرامج القديمة "، تواصل رأس" Search Mail.ru "في البريد. رو جماعة أندريه كالينين.

لماذا يقوم مطورو الشبكات العصبية بإنشاء تطبيقات محمولة للسوق الشامل

في الأشهر القليلة الماضية، ظهرت العديد من مشاريع الترفيه البارزة التي تستخدم الشبكات العصبية في السوق - هذه خدمة فيديو شهيرة شبكة اجتماعية Facebook، I. التطبيقات الروسية لمعالجة الصور (في يونيو، الاستثمار من مجموعة mail.ru) وغيرها.

أظهرت جوجل قدرات شبكاتها العصبية الخاصة بها من قبل جوجل (فازت شركة Alphago Technology في بطل GO؛ في مارس 2016، تباع المؤسسة في مزاد 29 لوحات تعادلها بواسطة الشبكات العصبية وما إلى ذلك)، ومايكروسوفت (مشروع CaptionBot، التعرف على الصور في الصور وتوليد التواقيع تلقائيا لهم؛ مشروع WhatDog، في الصورة التي تحدد سلالة الكلب؛ خدمة هولد، التي تحدد عمر الشخص في الصورة وما إلى ذلك)، و ياندكس (في يونيو، الفريق وقد تم تضمين تطبيق Auta.ru في التعرف على السيارات في الصور؛ قدمت الموسيقى المسجلة الموسيقية الموسيقية؛ في مايو، أنشأ مشروع Likemo.net للرسم في أسلوب الفنانين المشهورين).

يتم إنشاء هذه الخدمات الترفيهية بدلا من ذلك عدم حل المهام العالمية التي تهدف إليها الشبكات العصبية، وإظهار قدرات الشبكة العصبية وإجراء تدريبها.

"الألعاب هي سمة مميزة سلوكنا كأنواع بيولوجية. من ناحية، في مواقف الألعاب، يمكن محاكاة جميع السيناريوهات النموذجية للسلوك البشري تقريبا، ومن ناحية أخرى - كلا من المبدعين من الألعاب، وخاصة، يمكن للاعبين الحصول على الكثير من المتعة من العملية. هناك جانب نفعي بحت. لا تجلب لعبة مصممة جيدا رضا اللاعبين فقط: في عملية اللعبة، يعلمون خوارزمية الشبكة العصبية. يقول فلاد شيرسون من مايكروسوفت: "بعد كل شيء، تعتمد الشبكة العصبية على أمثلة".

"أولا وقبل كل شيء، يتم ذلك من أجل إظهار إمكانية التكنولوجيا. سبب آخر، في الواقع، لا. إذا كنا نتحدث عن PRISMA، فمن الواضح ما فعلوه. قام الرجال ببناء بعض الأنابيب، والذي يسمح لهم بالعمل مع الصور. لإظهار هذا، اختاروا طريقة بسيطة إلى حد ما لإنشاء أسطفة. لما لا؟ يقول جريجوري باكونوف من ياندكس: "إنها مجرد مظاهرة لعمل الخوارزميات".

تلتزم Andrei Kalinin من مجموعة Mail.ru بآراء أخرى: "بالطبع، إنه مذهل من حيث الجمهور. من ناحية أخرى، لن أقول أن منتجات الترفيه لا يمكن تطبيقها في مجالات أكثر فائدة. على سبيل المثال، فإن مهمة تصفيف الصور ذات صلة للغاية بمجموعة متنوعة من الصناعات (التصميم، ألعاب الكمبيوتر، الرسوم المتحركة ليست سوى عدد قليل من الأمثلة)، والاستخدام الكامل للشبكة العصبية يمكن أن يحسن بشكل كبير التكلفة والأساليب لإنشاء محتوى لهم. "

اللاعبين الرئيسيين في سوق الشبكة العصبية

كما يلاحظ أندريه كالينين، من قبل وكبيرة، تختلف معظم الشبكات العصبية الموجودة في سوق الشبكات العصبية عن بعضها البعض. "جميع التقنيات هي نفسها تقريبا. لكن استخدام الشبكة العصبية هو من دواعي سروري أنه لا يستطيع الجميع تحمله. لتدريس شبكة عصبية بشكل مستقل ووضع الكثير من التجارب على ذلك، فأنت بحاجة إلى مجموعات تدريبية كبيرة وموقف سيارات بطاقات فيديو باهظة الثمن. من الواضح أن هناك مثل هذه الفرص الشركات الكبيرة"هو يقول.

من بين اللاعبين الرئيسيين في السوق، يذكر كالينين Google وقسم Google Deepmind الذي أنشأ شبكة Alphago، و Google Brain. تطورات Microsoft الخاصة هي في هذا المجال - انخرطوا في مختبر Microsoft Research. تشارك إنشاء الشبكات العصبية في IBM، Facebook (أبحاث Facebook AI)، بايدو (معهد بايدو للتعلم العميق) وغيرها. يتم الاحتفاظ بالعديد من التطورات في الجامعات التقنية في جميع أنحاء العالم.

يذكر مدير نشر تكنولوجيات ياندكس غريغوري باكونوف أن التطورات المثيرة للاهتمام في مجال الشبكات العصبية موجودة بين الشركات الناشئة. "سأتذكر، على سبيل المثال، كلاريفاي. هذا هو بدء التشغيل الصغير الذي صنعته في وقت ما مع جوجل. الآن، ربما، ربما يكون محتوى العالم أكثر قدرة على تحديد محتويات الصورة ". هذه البداية تشمل MSQRD، والبريسما، وغيرها.

في روسيا، ليس فقط من الشركات الناشئة، ولكن أيضا شركات تكنولوجية كبيرة تعمل في مجال التطوير في مجال الشبكات العصبية - على سبيل المثال، مجموعة Mail.ru التي تحمل شبكات عصبية لمعالجة النصوص وتصنيف النصوص في "البحث"، تحليل الصور. تقوم الشركة أيضا بإجراء تطورات تجريبية مرتبطة بأنظمة الروبوتات والحوار.

تعمل Yandex في إنشاء شبكتها العصبية الخاصة بها: "تستخدم هذه الشبكات بشكل أساسي بالفعل في العمل مع الصور، مع الصوت، لكننا نستكشف قدراتهم في مجالات أخرى. الآن نضع الكثير من التجارب في استخدام شبكة عصبية في العمل مع النص. " تتم التطورات في الجامعات: في Skoltech، MFT، MSU، HSE وغيرها.

في النصف الأول من عام 2016، سمع العالم العديد من التطورات في مجال الشبكات العصبية - تم إظهار خوارزمياتها بواسطة Google (مشغل الشبكة في Alphago)، Microsoft (عدد من الخدمات لتحديد الصور)، MSQRD، Startups Prisma وغيرها وبعد

إلى الإشارات المرجعية

يقول مجلس التحرير أنهم شبكات عصبية، والتي يحتاجون إليها، ولماذا استولوا على الكوكب الآن، وقبل سنوات أو في وقت لاحق، كم منهم يمكن الحصول على الكثير منهم واللاعبين الرئيسيين في السوق. كما تمت مشاركة خبراء من MIDT و Yandex و Mail.ru ومجموعة Microsoft من قبل آرائهم.

ما هي الشبكات العصبية وما المهام التي يمكنهم حلها

الشبكات العصبية هي واحدة من الاتجاهات في تطوير أنظمة الاستخبارات الاصطناعية. تتمثل الفكرة في محاكاة عمل الجهاز العصبي البشري عن كثب - وهي قدرتها على التعلم والصحيح الأخطاء. هذه هي السمة الرئيسية لأي شبكة عصبية - إنها قادرة على الدراسة بشكل مستقل والتصرف على أساس التجربة السابقة، مما يجعل أخطاء أقل وأقل في كل مرة.

Meuraletima يحاكي ليس فقط النشاط، ولكن أيضا هيكل الجهاز العصبي البشري. تتكون هذه الشبكة من عدد كبير من عناصر الحوسبة الفردية ("الخلايا العصبية"). في معظم الحالات، يشير كل "Neuron" إلى طبقة محددة من الشبكة. يتم معالجة بيانات الإدخال بالتتابع على جميع طبقات الشبكة. قد تختلف معلمات كل "الخلايا العصبية" اعتمادا على النتائج التي تم الحصول عليها على مجموعات الإدخال السابقة، مما يؤدي إلى تغيير تشغيل النظام بأكمله.

يرتدي رأس "Search Mail.ru" في Mail.Ru Group Andrei Kalinin أن الشبكات العصبية قادرة على حل نفس المهام مثل خوارزميات تعلم الآلات الأخرى، فإن الفرق يكمن فقط في نهج التعلم.

جميع المهام التي يمكن أن تحل الشبكات العصبية مرتبطة بطريقة أو بأخرى للتعلم. من بين المجالات الرئيسية للشبكات العصبية تتوقع، صنع القرار، التعرف على الصورة، التحسين، تحليل البيانات.

يذكر مدير برامج التعاون التكنولوجي في Microsoft في روسيا، يلاحظ فلاد سيرشولكي أن الشبكات العصبية تستخدم الآن في كل مكان: "على سبيل المثال، تستخدمها العديد من مواقع الإنترنت الكبيرة لإجراء استجابة لسلوك المستخدمين لجمهور أكثر طبيعية ومفيدة. تعتمد Neuraletas على معظم أنظمة التعرف على الكلام الحديثة وتوليف الكلام، بالإضافة إلى الاعتراف ومعالجة الصور. يتم استخدامها في بعض أنظمة الملاحة، سواء الروبوتات الصناعية أو السيارات بدون طيار. تحمي الخوارزميات القائمة على الشبكة العصبية أنظمة المعلومات من هجمات المهاجمين والمساعدة في تحديد المحتوى غير القانوني على الشبكة. "

في المستقبل القريب (5-10 سنوات)، يعتقد Sershulsky، وسيتم استخدام الشبكات العصبية أوسع:

تخيل التجمع الزراعي، والآليات التنفيذية التي تم تجهيزها بمجموعة متنوعة من كاميرات الفيديو. يصنع خمسة آلاف صورة في الدقيقة لكل مصنع في حارة مساره، واستخدام الشبكة العصبية، والتحليلات - سواء كان ذلك ليس من الأعشاب، سواء كان لا يتأثر بالمرض أو الآفات. ويعالج كل مصنع على حدة. خيالي؟ لم تعد على الإطلاق. وفي خمس سنوات يمكن أن تصبح القاعدة. - فلاد شيرسون، مايكروسوفت

يقود رئيس مختبر النظم العصبية ومركز التدريب العميق لنظم المعيشة MFTI ميخائيل Burtsev خريطة مزعومة لتطوير الشبكات العصبية للفترة 2016-2018:

  • أنظمة الاعتراف وتصنيف الكائنات على الصور؛
  • واجهات الصوت التفاعل على شبكة الإنترنت؛
  • أنظمة مراقبة جودة الخدمة في مراكز الاتصال؛
  • استكشاف الأخطاء وإصلاحها (بما في ذلك التنبؤ بوقت الصيانة)، الشذوذ، والتهديدات الجسدية عبر الإنترنت؛
  • نظم السلامة والمراقبة الفكرية؛
  • استبدال روبوتات جزء من وظائف مشغلي مركز الاتصال؛
  • أنظمة تحليلات الفيديو؛
  • أنظمة التعلم الذاتي التي تحقق إدارة تدفقات المواد أو موقع الكائنات (في المستودعات والنقل)؛
  • أنظمة إدارة التعليم الذاتي الذكي للعمليات والأجهزة الصناعية (بما في ذلك الروبوتات)؛
  • ظهور أنظمة الترجمة الشاملة "على ذبابة" للمؤتمرات والاستخدام الشخصي؛
  • ظهور استشاري الروبوت من الدعم الفني أو المساعدين الشخصيين، للوظائف المقريبة من الإنسان.

يعتقد مدير تكنولوجيا ياندكس لتكنولوجيا غريغوري باكونوف أن الأساس لتوزيع الشبكة العصبية في السنوات الخمس المقبلة سيكون قدرة هذه الأنظمة على قبول القرارات المختلفة: "الشيء الرئيسي هو أن الشبكات العصبية تجعل الآن لشخص - حفظه من صنع القرار المفرط. لذلك يمكن استخدامها في كل مكان تقريبا، حيث لا توجد حلول ذكية للغاية لشخص حي. في السنوات الخمس المقبلة، سيتم تشغيل هذه المهارة، والتي ستحل محل اتخاذ القرارات على مركبة بسيطة ".

لماذا أصبحت الشبكات العصبية تحظى بشعبية كبيرة الآن

يشارك العلماء في تطوير الشبكات العصبية الاصطناعية على مدار 70 عاما. يشار إلى المحاولة الأولى لإضفاء الطابع الرسمي على الشبكة العصبية عام 1943، عندما قدم اثنان من العلماء الأمريكيين (Warren McKallock و Walter Pitts) مقالا عن التفاضل والتكامل المنطقي للأفكار الإنسانية والنشاط العصبي.

ومع ذلك، حتى وقت قريب، يقول أندري كالينين من مجموعة Mail.ru، كانت سرعة الشبكة العصبية منخفضة للغاية حتى يتمكنوا من الحصول على نطاق واسع، وبالتالي تم استخدام هذه الأنظمة بشكل أساسي في تطوير رؤية الكمبيوتر، وتم استخدام الخوارزميات الأخرى في مجالات أخرى. التعلم الآلي.

يمثل الجزء المستهل للوقت والجزء الطويل من عملية تطوير الشبكات العصبية. من أجل أن تحل الشبكة العصبية لحل المهام بشكل صحيح، فهي مطلوبة "تشغيل" عملها على عشرات الملايين من مجموعات المدخلات. إنه مع ظهور تقنيات مختلفة للتعلم المتسارع وربط انتشار الشبكة العصبية أندريه كالينين ويجري باكونوف.

الشيء الرئيسي الذي حدث الآن هو الحيل المختلفة التي تسمح بشبكات عصبية، أقل بكثير عرضة لإعادة التدريب. - غريغوري باكونوف، ياندكس

"أولا، ظهرت مجموعة كبيرة ومتاحة للجمهور من الصور المميزة التي يمكنك دراسةها. ثانيا، تتيح بطاقات الفيديو الحديثة مائة مرة أسرع لتدريس الشبكات العصبية واستخدامها. ثالثا، جاهز، شبكات عصبية جاهزة، تعترف بالصور، على أساس ما يمكنك تقديم طلباتك، ولا تشارك في إعداد طويل الأجل للشبكة العصبية للعمل. كل هذا يضمن تطورا قويا للغاية للشبكات العصبية على وجه التحديد في مجال التعرف على الصورة "، ملاحظات Kalinin.

ما هي مجلدات سوق الشبكة العصبية

"من السهل جدا حساب. يمكنك أن تأخذ أي منطقة تستخدم فيها العمالة المنخفضة المهرة - على سبيل المثال، عمل مشغلي مراكز الاتصال - ومجرد خصم جميع الموارد البشرية. أود أن أقول أننا نتحدث عن سوق متعدد مليارات الدولارات حتى داخل بلد منفصل. كم من الأشخاص في العالم يشاركون في أعمال منخفضة المهارات، يمكن فهمها بسهولة. يقول جريجوري باكونوف، مدير نشر تكنولوجيات ياندكس: "حتى أننا نتحدث بشكل مجردة للغاية، فإنني أعتقد أننا نتحدث عن السوق بمارته الشائكة في جميع أنحاء العالم".

وفقا لبعض التقديرات، ستتم أتمتة أكثر من نصف المهن - هذا هو الحد الأقصى للحجم الذي يمكن زيادة فيه سوق خوارزميات التعلم الآلي (والشبكات العصبية على وجه الخصوص) .- Andrei Kalinin، Mail.ru Group

"خوارزميات التعلم الآلية هي الخطوة التالية في أتمتة أي عمليات في تطوير أي برنامج. لذلك، يتزامن السوق على الأقل مع السوق بأكمله من البرامج، بل يتفوق عليه، لأنه يصبح من الممكن إجراء حلول فكرية جديدة يتعذر الوصول إليها على البرامج القديمة "، تواصل رأس" Search Mail.ru "في البريد. رو جماعة أندريه كالينين.

لماذا يقوم مطورو الشبكات العصبية بإنشاء تطبيقات محمولة للسوق الشامل

في الأشهر القليلة الماضية، ظهرت العديد من المشاريع الترفيهية رفيعة المستوى تستخدم الشبكات العصبية في السوق - هذه هي خدمة الفيديو الشعبية، وهي شبكة اجتماعية على Facebook، والتطبيقات الروسية لمعالجة الصور (في يونيو الاستثمار من Mail.ru المجموعة) وغيرها.

أظهرت جوجل قدرات شبكاتها العصبية الخاصة بها من قبل جوجل (فازت شركة Alphago Technology في بطل GO؛ في مارس 2016، تباع المؤسسة في مزاد 29 لوحات تعادلها بواسطة الشبكات العصبية وما إلى ذلك)، ومايكروسوفت (مشروع CaptionBot، التعرف على الصور في الصور وتوليد التواقيع تلقائيا لهم؛ مشروع WhatDog، في الصورة التي تحدد سلالة الكلب؛ خدمة هولد، التي تحدد عمر الشخص في الصورة وما إلى ذلك)، و ياندكس (في يونيو، الفريق وقد تم تضمين تطبيق Auta.ru في التعرف على السيارات في الصور؛ قدمت الموسيقى المسجلة الموسيقية الموسيقية؛ في مايو، أنشأ مشروع Likemo.net للرسم في أسلوب الفنانين المشهورين).

يتم إنشاء هذه الخدمات الترفيهية بدلا من ذلك عدم حل المهام العالمية التي تهدف إليها الشبكات العصبية، وإظهار قدرات الشبكة العصبية وإجراء تدريبها.

"الألعاب هي سمة مميزة سلوكنا كأنواع بيولوجية. من ناحية، في مواقف الألعاب، يمكن محاكاة جميع السيناريوهات النموذجية للسلوك البشري تقريبا، ومن ناحية أخرى - كلا من المبدعين من الألعاب، وخاصة، يمكن للاعبين الحصول على الكثير من المتعة من العملية. هناك جانب نفعي بحت. لا تجلب لعبة مصممة جيدا رضا اللاعبين فقط: في عملية اللعبة، يعلمون خوارزمية الشبكة العصبية. يقول فلاد شيرسون من مايكروسوفت: "بعد كل شيء، تعتمد الشبكة العصبية على أمثلة".

"أولا وقبل كل شيء، يتم ذلك من أجل إظهار إمكانية التكنولوجيا. سبب آخر، في الواقع، لا. إذا كنا نتحدث عن PRISMA، فمن الواضح ما فعلوه. قام الرجال ببناء بعض الأنابيب، والذي يسمح لهم بالعمل مع الصور. لإظهار هذا، اختاروا طريقة بسيطة إلى حد ما لإنشاء أسطفة. لما لا؟ يقول جريجوري باكونوف من ياندكس: "إنها مجرد مظاهرة لعمل الخوارزميات".

تلتزم Andrei Kalinin من مجموعة Mail.ru بآراء أخرى: "بالطبع، إنه مذهل من حيث الجمهور. من ناحية أخرى، لن أقول أن منتجات الترفيه لا يمكن تطبيقها في مجالات أكثر فائدة. على سبيل المثال، فإن مهمة تصفيف الصور ذات صلة للغاية بالنسبة لعدد من الصناعات (التصميم، ألعاب الكمبيوتر، الرسوم المتحركة - هنا مجرد أمثلة قليلة فقط)، والاستخدام الكامل للشبكة العصبية يمكن أن يحسن بشكل كبير التكلفة والأساليب لإنشاء محتوى معهم. "

اللاعبين الرئيسيين في سوق الشبكة العصبية

كما يلاحظ أندريه كالينين، من قبل وكبيرة، تختلف معظم الشبكات العصبية الموجودة في سوق الشبكات العصبية عن بعضها البعض. "جميع التقنيات هي نفسها تقريبا. لكن استخدام الشبكة العصبية هو من دواعي سروري أنه لا يستطيع الجميع تحمله. لتدريس شبكة عصبية بشكل مستقل ووضع الكثير من التجارب على ذلك، فأنت بحاجة إلى مجموعات تدريبية كبيرة وموقف سيارات بطاقات فيديو باهظة الثمن. من الواضح أن هناك مثل هذه الفرص للشركات الكبيرة ".

من بين اللاعبين الرئيسيين في السوق، يذكر كالينين Google وقسم Google Deepmind الذي أنشأ شبكة Alphago، و Google Brain. تطورات Microsoft الخاصة هي في هذا المجال - انخرطوا في مختبر Microsoft Research. تشارك إنشاء الشبكات العصبية في IBM، Facebook (أبحاث Facebook AI)، بايدو (معهد بايدو للتعلم العميق) وغيرها. يتم الاحتفاظ بالعديد من التطورات في الجامعات التقنية في جميع أنحاء العالم.

يذكر مدير نشر تكنولوجيات ياندكس غريغوري باكونوف أن التطورات المثيرة للاهتمام في مجال الشبكات العصبية موجودة بين الشركات الناشئة. "سأتذكر، على سبيل المثال، كلاريفاي. هذا هو بدء التشغيل الصغير الذي صنعته في وقت ما مع جوجل. الآن، ربما، ربما يكون محتوى العالم أكثر قدرة على تحديد محتويات الصورة ". هذه البداية تشمل MSQRD، والبريسما، وغيرها.

في روسيا، ليس فقط من الشركات الناشئة، ولكن أيضا شركات تكنولوجية كبيرة تعمل في مجال التطوير في مجال الشبكات العصبية - على سبيل المثال، مجموعة Mail.ru التي تحمل شبكات عصبية لمعالجة النصوص وتصنيف النصوص في "البحث"، تحليل الصور. تقوم الشركة أيضا بإجراء تطورات تجريبية مرتبطة بأنظمة الروبوتات والحوار.

تعمل Yandex في إنشاء شبكتها العصبية الخاصة بها: "تستخدم هذه الشبكات بشكل أساسي بالفعل في العمل مع الصور، مع الصوت، لكننا نستكشف قدراتهم في مجالات أخرى. الآن نضع الكثير من التجارب في استخدام شبكة عصبية في العمل مع النص. " تتم التطورات في الجامعات: في Skoltech، MFT، MSU، HSE وغيرها.