مساعد عملاء AWS-Native Serverless GenAI

عميل

احتاجت شركة خدمات مالية مقرها الولايات المتحدة تدعم الشركات الصغيرة والمتوسطة الحجم إلى تحديث نموذج خدمة العملاء الخاص بها من خلال نشر مساعدين قابلين للتطوير يعتمدون على الذكاء الاصطناعي ويقدمون استجابات في الوقت الفعلي ويقللون من تأخيرات التكامل.

تحدي الأعمال

• نهج النشر القديم: قامت شركة FirstHope بتجربة أنظمة LLM مفتوحة المصدر المستضافة على البنية التحتية ذاتية الإدارة، ولكن البيئة كانت مكلفة، ومتشددة، ويصعب توسيع نطاقها لحركة مرور الشركات الصغيرة والمتوسطة غير المتوقعة.

• وقت بطيء لطرح المنتجات في السوق: تطلبت عمليات نشر روبوتات الدردشة بالذكاء الاصطناعي أكثر من 3 أشهر، مما أدى إلى خلق اختناقات لعملاء الشركات الصغيرة والمتوسطة الحجم الذين يحتاجون إلى إمكانيات أسرع للدمج والخدمة الذاتية.

• فجوات الأمان والامتثال: أدى الافتقار إلى إدارة الهوية والوصول على مستوى المؤسسة وحماية البيانات والاستعداد للتدقيق إلى إعاقة التبني في الصناعات الخاضعة للتنظيم.

• تكاليف تشغيلية عالية: استهلكت إدارة البنية التحتية اليدوية والتوسع والمراقبة موارد كبيرة من تكنولوجيا المعلومات.

• مرونة محدودة: لم تسمح عمليات النشر الصارمة بالتكامل السريع لنماذج LLM الأحدث أو التحسينات المستندة إلى SaaS.

يقترب

قادت شركة Trianz عملية إعادة هندسة كاملة للسحابة الأصلية باستخدام خدمات AWS بدون خادم لتقليل تعقيد البنية التحتية وتمكين مساعدة العملاء المدعومة بالذكاء الاصطناعي بشكل آمن ومتوافق وقابل للتطوير.

• إعادة تصميم بدون خادم: تم استبدال البنية التحتية التي تتم إدارتها ذاتيًا بـ Amazon Bedrock (Anthropic Claude) للاستجابات التوليدية التي يقودها LLM، مما أدى إلى التخلص من تكلفة البنية التحتية للنموذج.

• تعزيز الاسترجاع في الوقت الفعلي: دمج Amazon Kendra لاسترجاع المعرفة، وضمان الدقة والاستجابات السياقية لاستعلامات SMB.

• طبقة مساعد الأعمال: الاستفادة من Amazon Q Business لتدفقات العمل المتكاملة مسبقًا والتكيف مع المجال.

• إدارة الجلسة القابلة للتطوير: تم نشر AWS AppSync وDynamoDB للحفاظ على سجلات الدردشة والبيانات الوصفية وحالة الجلسة عبر العملاء.

• التنسيق الموجه بالأحداث: استخدام AWS Lambda للتعامل مع التنسيق، وتوليد الاسترجاع المعزز (RAG)، ومنطق التوسع الآلي.

• التسليم الآمن للواجهة الأمامية: الجمع بين Amazon CloudFront وAmplify وCognito للواجهات الأمامية الموزعة عالميًا مع المصادقة الفيدرالية والعزل.

• المراقبة والحوكمة: تمكين CloudWatch وQuickSight لمراقبة زمن الوصول، ولوحات معلومات SLA، والتحسينات المعتمدة على التحليلات.

• أمان المؤسسة: تطبيق AWS WAF وShield لحماية DDoS والعزل المستند إلى IAM عبر مستأجري العملاء.

مكونات التكنولوجيا

• خدمات AWS الأساسية: Amazon Bedrock، Kendra، Q Business، DynamoDB، AppSync، Lambda، CloudFront، Cognito، QuickSight، WAF، Shield.

• أدوات البنية الأساسية: IAM، وCloudWatch، وعمليات النشر المتعددة لمناطق التوافر.

التأثيرات التحويلية

• نشر أسرع بثلاث مرات: تم تقليل مدة طرح برنامج المحادثة الآلي من 3 أشهر إلى أسبوعين.

• زيادة الإنتاجية بنسبة 90%: استجابات الذكاء الاصطناعي الأسرع من خلال الاسترجاع في الوقت الفعلي وتحسين تجربة المستخدم.

• موثوقية شبه مثالية: تم تحقيق وقت تشغيل بنسبة 98% مع بنية متعددة مناطق التوافر.

• انخفاض تكلفة الملكية الإجمالية بنسبة 30%: تم تخفيض التكلفة لمدة 3 سنوات عن طريق استبدال البنية التحتية المحلية بخادم AWS بدون خادم.

• الامتثال الجاهز للتدقيق: اجتاز تدقيق الصناعة دون علاج.