قصة قديمة جدًا، ولا تزال أفضل تفسير لسبب توقف فرق المناوبة عن الاستجابة للتنبيهات. اقرأ القصة أولًا، ثم اطّلع على كيفية مساعدة NGN لفرق تقنية المعلومات في أي مكان على إصلاح الأمر.
كان يا ما كان، على تلة تطل على قرية، راعٍ صغير يحرس الغنم. إذا جاء ذئب، كان عليه أن يصرخ، فيهبّ أهل القرية جميعًا. كانت الليالي طويلة، ولم يحدث شيء قط.
في القرية، ترك الناس ما في أيديهم، وحملوا مشعلًا ومذراة، وركضوا صاعدين التلة. أين هو؟!
لم يكن هناك ذئب. فقط الصبي يضحك. ها! خدعتكم! ونزل القرويون التلة وهم يتذمرون.
وبعد بضع ليالٍ فعلها مرة أخرى. ومرة أخرى. في كل مرة كانوا يأتون راكضين، وفي كل مرة لم يكن هناك شيء. ليس مجددًا…
وبعد مدة، توقف القرويون عن الركض. حين يأتي الصراخ كانوا يهزّون أكتافهم ويقولون إنه الصبي فقط، ويعودون إلى عشائهم. وبين أشجار الصنوبر، كان شيء ما يراقب.
ثم في إحدى الليالي خرج ذئب حقًا من بين الأشجار، منخفضًا وهادئًا، متجهًا مباشرة نحو القطيع. صرخ الصبي بصوت أعلى من أي وقت مضى: ذئب! إنه حقيقي هذه المرة!
في القرية، سمعه الجميع. لقد سمعوه مئة مرة من قبل. لم يأتِ أحد.
وبحلول الصباح، كان القطيع قد اختفى.
لا أحد يصدّق الكذاب، حتى حين يقول الحقيقة.
العبرة كما رواها إيسوب قبل أكثر من 2,500 عام.
الفصل الثاني
والآن لنروِها مجددًا، مع نظام مراقبة
استبدل التلة بغرفة خوادم، ولن يحتاج أي شيء آخر إلى التغيير. هذا هو إرهاق التنبيهات، ويتكرر كل ليلة في فرق تقنية المعلومات في كل مكان.
الصبي
NNagiosWarningDisk /var 82% on web-02
PrometheusFiringHighCPU: app-03 at 87%
Azure MonitorSev 3Swap in use on vm-db-02
نظام المراقبة لديك
الصبي هو نظام المراقبة لديك
Nagios وIcinga وPrometheus وZabbix وDatadog وAWS CloudWatch وAzure Monitor وMicrosoft 365: كل واحد منها سيصرخ بشأن كل شيء إذا ضُبط على ذلك. المعالج عند 87%، وشهادة تنتهي بعد 60 يومًا، ونسخة احتياطية تأخرت ست دقائق. كل منها يبدو معقولًا، لكنها مجتمعة مجرد ضجيج.
القرويون
المناوبون الليلة
Pالمناوب الأساسي47 استدعاءً منذ منتصف الليلمكتوم
Sالمناوب الاحتياطيالهاتف على الوضع الصامتنائم
#noc تجاهله، إنه تنبيه المعالج مجددًا
فريق المناوبة لديك
القرويون هم فريق المناوبة لديك
في البداية كانوا يأتون راكضين. ثم تعلّموا أن كل تنبيه تقريبًا لا يحتاج منهم شيئًا، فكتموا القناة، وصاروا يتعاملون مع التنبيهات على هذا الأساس.
الذئب
IcingaCriticalBGP neighbour down on core-rtr-01
غير مقروء0 تم الإقرار بها1 من 47 الليلة
العطل الحقيقي
الذئب هو العطل الحقيقي
يفقد الموجّه الرئيسي اتصاله بالإنترنت عند الساعة 3:07 فجرًا. ويصل التنبيه في القناة نفسها وبالتنسيق نفسه، وسط ستة وأربعين إنذارًا كاذبًا من حوله.
القطيع
المكتبغير متصل
الطلباتتفشل
الهواتفمعطلة
موظفون متوقفون140
أعمالك
القطيع هو أعمالك
عملاء لا يستطيعون الطلب، وموظفون لا يستطيعون العمل، وهواتف لا ترن. هذا ما يأخذه الذئب حين لا ينظر أحد، ولا يعلم أحد بذلك حتى يتصل أول عميل.
اكتشف الذئب
ليلة هادئة في قناة التنبيهات. ثماني أدوات، كل منها يصرخ بطريقته، وكل سطر مصمم ليبدو عاجلًا. أحدها هو العطل الذي سيكلّفك صباح الغد، والمهندس المناوب يقرأ هذا وهو نصف نائم، على هاتفه.
هذا هو. BGP neighbour down on core-rtr-01: فقد الموقع الرئيسي اتصاله بالإنترنت، والتنبيه يبدو تمامًا مثل التنبيهات العشرة من حوله.
#alertsالثلاثاء، 3:11 فجرًا · 11 جديدة
PrometheusFiringHighCPU: app-03 at 87%
NNagiosWarningDisk /var 82% on web-02
DatadogWarnCertificate expires in 60 days: mail-01
IcingaWarningbackup-nightly ran 6 min long
ZZabbixProblemPing jitter 4 ms on syd-edge-1
Azure MonitorSev 3Swap in use on vm-db-02
IcingaCriticalBGP neighbour down on core-rtr-01
AWS CloudWatchAlarmcpu-high: app-03 at 91%
Microsoft 365AlertSign-in from a new device: admin
ZZabbixProblemNTP drift 40 ms on log-01
NNagiosWarningMail queue at 120 messages
القرويون لم يرتكبوا أي خطأ
حين لا يحتاج منك كل إنذار تقريبًا أي شيء، يصبح تجاهل الإنذارات هو الاستجابة المنطقية. كانت المستشفيات أول من سمّى المشكلة: في عام 2013 قدّرت The Joint Commission أن ما بين 85 و99 بالمئة من إشارات الإنذار في المستشفيات لا تتطلب تدخلًا سريريًا، ووجدت أن إرهاق الإنذارات هو العامل المساهم الأكثر شيوعًا في الأضرار المرتبطة بالإنذارات.1
ولا تختلف تقنية المعلومات عن ذلك. يحذّر كتاب Google عن هندسة موثوقية المواقع من أن الإرهاق الذي تسببه التنبيهات المزعجة «قد يؤدي أيضًا إلى معاملة التنبيهات الخطيرة باهتمام أقل من اللازم».2إرهاق التنبيهات ليس مشكلة انضباط، بل مشكلة تصميم، وعلاجه أن نعطي الصبي أسبابًا أقل للصراخ.
الفصل الثالث
نهاية أفضل
الحل ليس إنذارًا أعلى صوتًا ولا مزيدًا من المناوبين، بل صبي لا يصرخ «ذئب!» إلا حين يكون هناك ذئب، وقرية تعرف بالضبط من يذهب حين يصرخ.
ذئب! ذئب!
ها! خدعتكم!
ذئب!
ذئب! إنه حقيقي هذه المرة!
أين هو؟!
مضحك جدًا.
ليس مجددًا…
اصمد، نحن قادمون!
إنه الصبي فقط.
تجاهلوه.
استمع إلى الضجيج
نراجع ما أُطلق فعلًا خلال الشهر الماضي: كل تنبيه، ومن وصل إليه، وهل احتاج أحد إلى فعل أي شيء.
اتفقوا على ماهية الذئب الحقيقي
الأعمال، لا المهندسون، هي من تحدد حالات الطوارئ: العملاء لا يستطيعون تسجيل الدخول، الطلبات متوقفة، الهواتف معطلة، البيانات في خطر.
راقب الذئاب، لا حفيف الأوراق
تُطلق التنبيهات على ما سيلاحظه المستخدمون (زمن الاستجابة وحجم الحركة والأخطاء والتشبّع، أي الإشارات الذهبية الأربع لدى Google) وعلى سرعة استهلاك الخدمة لميزانية الأخطاء، لا على كل ارتفاع في استخدام المعالج.2,3
أرسل كل صرخة إلى الشخص المناسب
تُجمع التنبيهات المترابطة في إشعار واحد، وتُكتم التنبيهات التابعة ما دام سببها قائمًا، ويوجَّه كل تنبيه حسب الخدمة والخطورة إلى الشخص المسؤول عنه، مع التصعيد حتى يقر به أحد.4,5
صرخة واحدة، خطة واحدة
كل تنبيه يوقظ أحدًا يرتبط بدليل تشغيل قصير: ماذا يعني، ومن المتأثر، وما الذي يجب فحصه أولًا، ومن يجب الاتصال به.
درّب القرية، وحافظ على صدقها
يتعلم مهندسوك كتابة التنبيهات وإدارة المراجعة الأسبوعية التي تستغرق خمس عشرة دقيقة: ماذا أُطلق، وهل احتاج أحد إلى التصرف، وهل يبقى التنبيه. التنبيهات التي لا تحتاج أبدًا إلى إجراء تُحذف.
الذئب نفسه، بصرخة صحيحة
الفرق ليس إنذارًا أعلى صوتًا، بل تنبيه يوضح ما هو على المحك، ومن المتأثر، ومن يعمل عليه بالفعل، ويطوي الضجيج بهدوء.
قبل
IcingaCriticalBGP neighbour down on core-rtr-01
+ 46 تنبيهًا آخر مثله الليلة. أيها المهم؟ لا أحد يستطيع أن يعرف من هذا.
بعد
P1مكتب سيدني غير متصلتم الإقرار 03:09
المواقع
المكتب الرئيسي في سيدني، مستودع Parramatta
الخدمات
الإنترنت، الهواتف، VPN، الطلبات عبر الإنترنت
المستخدمون المتأثرون
140 موظفًا وكل طلبات العملاء
السبب المرجّح
فقد core-rtr-01 جلسة BGP مع المزوّد الأعلى عند 03:07
38 تنبيهًا مرتبطًا جُمعت في هذا التنبيه12 تنبيهًا تابعًا تم حجبها
اكتُشف مما يراه المستخدمون، لا من المعالج
تم استدعاء مناوب الشبكة: مكالمة، رسالة نصية، Teams
تم الإقرار وفتح دليل التشغيل
كان سيُصعَّد إلى المناوب الاحتياطي
دليل التشغيل: انقطاع جلسة BGP مع المزوّد الأعلى
≤ 2حادثة في كل نوبة مناوبة مدتها 12 ساعة، وهو الحد الأقصى الذي تسمح به فرق SRE لدى Google
1 : 1نسبة التنبيهات إلى الحوادث الحقيقية: النسبة التي يوصي كتاب SRE من Google الفرقَ بالسعي إليها
100%من الاستدعاءات قابلة للتنفيذ: «يجب أن يكون كل استدعاء قابلًا للتنفيذ»
كيف نعمل مع فريقك
تعمل NGN مع فرق تقنية المعلومات في أستراليا وحول العالم، في الموقع أو عن بُعد، باستخدام الأدوات التي تعملون بها بالفعل.
التدريبجلسات عملية لمهندسي المناوبة لديك: كتابة تنبيهات تستحق الاستدعاء، وأدلة التشغيل، والتوجيه، والمراجعة الأسبوعية.
الضبطنعيد بناء مجموعة التنبيهات الموجودة لديك، في Icinga2 أو Prometheus أو Grafana أو أي أداة تستخدمها، بحيث يكون ما يتبقى موثوقًا.
التنفيذمراقبة وتوجيه تنبيهات جديدان، مبنيان وموثقان: Prometheus وAlertmanager، وIcinga2 وGrafana، مع الإشعار عبر PagerDuty أو Microsoft Teams أو Slack أو البريد الإلكتروني أو الرسائل النصية أو مكالمة هاتفية.
الاستجابةأو سلّمنا جهاز الاستدعاء: تراقب NGN على مدار الساعة، ويتلقى مهندسونا الاتصال ويتصرفون بشأنه.
ما علاقة قصة الراعي الكذاب والذئب بمراقبة تقنية المعلومات؟
إنها القصة نفسها. نظام المراقبة الذي يطلق الإنذارات بشأن كل شيء يعلّم المناوبين أن الإنذارات لا تعني شيئًا، فإذا وقع عطل حقيقي تم تجاهله كما تم تجاهل الإنذارات الكاذبة قبله. يسمى هذا في تقنية المعلومات إرهاق التنبيهات، وكما في الحكاية، فإن الخطأ في الإنذارات لا في الأشخاص الذين توقفوا عن الاستجابة لها.
ما علامات إرهاق التنبيهات في فريق تقنية المعلومات؟
قناة تنبيهات أو مجلد بريد لا يقرؤه أحد، وتنبيهات يتم الإقرار بها بشكل روتيني دون النظر فيها، والتنبيه نفسه يُطلق كل ليلة، وأعطال يبلّغ عنها العملاء قبل أن تكتشفها المراقبة، ومهندس واحد خبير يعرف وحده أي التنبيهات حقيقي. أي واحدة من هذه تعني أن مجموعة التنبيهات بحاجة إلى إعادة بناء.
هل يعني تقليل عدد التنبيهات أننا سنفوّت مشكلات حقيقية؟
ليس إذا تم ذلك بالشكل الصحيح. التنبيهات المتبقية مبنية حول ما سيلاحظه العملاء، لذا فهي تكشف المشكلات الحقيقية بموثوقية أكبر من سيل تحذيرات المعالج والقرص. كما نتتبع الحوادث التي وقعت دون أي تنبيه، وهذا يكشف فورًا إن كان قد حُذف أكثر مما ينبغي.
كم يستغرق إصلاح نظام مراقبة مزعج؟
عادةً بضعة أسابيع لإعادة البناء نفسها، باستخدام الأدوات التي لديكم بالفعل مثل Icinga2 أو Prometheus أو Grafana. أما المراجعة الأسبوعية التي تحافظ على هدوئه بعد ذلك فتستغرق نحو خمس عشرة دقيقة.
ما المعايير التي تتبعها NGN عند إعادة بناء التنبيهات؟
الممارسات التي نشرتها Google لفرق هندسة موثوقية المواقع (SRE) لديها: يجب أن يكون كل استدعاء قابلًا للتنفيذ، وتُطلق التنبيهات على الأعراض التي يلاحظها المستخدمون لا على الأسباب الداخلية، ويُحدَّد الاستدعاء بسرعة استهلاك الخدمة لميزانية الأخطاء، ولا ينبغي أن يواجه مهندس المناوبة أكثر من حادثتين في نوبة مدتها اثنتا عشرة ساعة. تُجمَّع التنبيهات وتُكتم وتُوجَّه في أدوات مثل Prometheus Alertmanager، وتُصعَّد حتى يقر بها أحد.
هل يمكن أن تكون NGN فريق المناوبة الذي يستجيب لتنبيهاتنا؟
نعم. تراقب NGN على مدار الساعة، مع توجيه التنبيهات حسب الخطورة إلى مهندسينا وإلى مسار التصعيد الذي تختارونه خارج ساعات العمل، بحيث يصل الإنذار الحقيقي في الثالثة فجرًا إلى شخص يتصرف بشأنه.
We have used Next Generation Networks for several custom solution projects that went well beyond the standard scope listed on their website. Every time, the team has been exceptional—genuinely enthusiastic about tackling complex challenges and consistently delivering solutions that exceed…
Great service from Next Generation! They really helped us get our internet running fast and smoothly. The process was easy, and their team was very helpful and responsive. We’re really happy with the improved internet speed and connection. Highly recommended!
We engaged Next Generation Networks to build the ecommerce site for South West Apparel, and we couldn't be happier with the result. The team's attention to detail was outstanding. Everything from the layout and product pages to the checkout experience was carefully thought through, and they took…