Kaizen Gaming

Comment Kaizen Gaming a optimisé son infrastructure avec Cloudflare Durable Objects

Kaizen Gaming est l'une des plus grandes entreprises de technologies de jeux en ligne du monde, et l'une des plus connues également. Fondée à Athènes, en Grèce, en 2012, Kaizen présente chaque année 1,5 million d'événements et diffuse plus de 400 000 événements en direct sur 19 marchés. L'entreprise est également un sponsor officiel de la Copa América, ainsi que de l'UEFA Conference League et de l'UEFA Europa League.

Kaizen est propriétaire de Betano, une marque haut de gamme de paris sportifs et de jeux de hasard en ligne qui utilise une technologie exclusive pour proposer une interface conviviale et une expérience attrayante des paris et des jeux de casino à plus de 13 millions de clients dans le monde entier.

La plateforme Betano fournit des informations mises à jour en temps réel depuis un flux de données de paris en direct dédié aux résultats sportifs. La diffusion de ces mises à jour pendant les grands événements sportifs peut constituer un défi, car des centaines de milliers d'appareils accèdent simultanément aux applications de Kaizen. L'entreprise recherchait des moyens d'assurer la diffusion en direct avec une efficacité et une évolutivité optimales.

Problème : routage inefficace du trafic et nombre excessif de connexions

Kaizen est confronté à un défi particulièrement complexe concernant la distribution des données. Lorsqu'un client souhaite placer un pari, il doit être informé sur les temps forts de l'événement, sans délai significatif.

Selon Kostas Stefanopoulos, Principal Site Reliability Engineer chez Kaizen : « Si vous voyez qu'un but vient d'être marqué et vous voulez parier, vous n'avez pas un instant à perdre. Tout doit donc se dérouler en temps réel, ce qui génère une charge de trafic importante pour notre logiciel. »

Il était difficile de répondre à ces attentes avec l'infrastructure précédente de Kaizen. Pour fournir des données en temps réel à une clientèle mondiale, l'entreprise gérait les connexions WebSocket à l'aide d'un back-end personnalisé, basé sur Microsoft SignalR.

Le principal problème était lié à l'efficacité et à l'évolutivité : chaque appareil d'un utilisateur final établissait une connexion WebSocket dédiée et persistante aux serveurs d'origine de Kaizen, situés en Europe. Lorsqu'un événement survenait pendant une rencontre (lorsqu'un but était marqué, par exemple), les mêmes données étaient dupliquées et transmises par-delà l'océan, à des centaines de milliers d'appareils individuels.

Cette architecture engendrait trois problèmes critiques :

• Charge et coût excessifs : lors des pics d'activité, plus de 600 000 connexions client simultanées devaient être prises en charge. Puisque chaque pod de back-end personnalisé ne pouvait gérer qu'environ 2 000 connexions SignalR, Kaizen avait besoin de près de 300 serveurs personnalisés pour assurer cette seule fonction . La configuration résultante était encombrante, et consommait d'importantes ressources.
• Bande passante inutile : les transferts de données constants et redondants entraînaient une charge réseau colossale et coûteuse.
• Latence élevée et perte de revenus : le routage du trafic mondial (en provenance du Brésil, par exemple) vers l'Europe entraînait une latence élevée, souvent de l'ordre d'une seconde. Or, dans les paris sportifs, la rapidité est primordiale. Si un client tente de placer un pari sur une vue obsolète d'un match, même un délai de 10 secondes peut entraîner l'annulation ou le refus du pari , et ainsi, affecter directement l'expérience client et les indicateurs clés essentiels de l'activité de Kaizen.

Mais pour Kaizen, il n'y avait pas d'autre solution. « Nous devions nous préparer au pire », explique Kostas Stefanopoulos. « Imaginez que la moitié du Brésil décide de se connecter en même temps. Dans une telle situation, il n'y a pas de place pour une mise à l'échelle automatique. »

Solution : Cloudflare aide Kaizen à améliorer l'efficacité et l'évolutivité afin de répondre aux attentes des utilisateurs

Kaizen a initialement déployé Cloudflare afin d'atténuer les attaques DDoS. Alors que Kaizen cherchait une solution à ses problèmes de connectivité, l'entreprise s'est adressée à Cloudflare avec l'objectif d'adopter une approche intelligente pour décharger du trafic de son serveur d'origine, rationaliser la transmission de données et réduire considérablement les coûts.

Dans un premier temps, Kaizen a déployé Cloudflare Workers et Durable Objects pour servir de proxy inverse à la périphérie. Cette nouvelle architecture agrège les connexions client à proximité de l'utilisateur et établit une connexion WebSocket unique et rationalisée entre Cloudflare et le back-end européen, résolvant ainsi fondamentalement le problème de multiplication des connexions.

Durable Objects remédie à ce problème de deux manières essentielles :

1. Consolidation des connexions  : chaque instance Durable Objects agrège des milliers de connexions utilisateur individuelles. Alors que, pendant les pics d'activité, quelque 600 000 connexions étaient établies au serveur d'origine de Kaizen, la charge agrégée est désormais d'environ 1 000 connexions seulement . Durable Objects absorbe les immenses pics de trafic et soulage l'infrastructure de Kaizen de la charge liée à l'évolutivité.
2. Multiplication des connexions à la périphérie  : chaque instance Durable Objects se comporte comme un hub de gestion des abonnements. Si 10 000 utilisateurs sont abonnés au même flux en direct, l'instance Durable Objects ne récupère qu'une seule fois la mise à jour auprès du serveur d'origine, puis la distribue instantanément à tous les abonnés depuis l'emplacement à la périphérie de Cloudflare le plus proche d'eux.

Comme le souligne Kostas Stefanopoulos, cette nouvelle architecture périphérique constitue une victoire importante.

« Les instances Durable Objects répondent plus près de l'utilisateur final ; les messages traversent donc l'océan moins de fois qu'ils ne le faisaient auparavant, et le processus de multiplication se déroule plus près des clients. »

Pour Kaizen, la stabilité et l'évolutivité du système constituent les principaux avantages qu'offre l'utilisation de Cloudflare. La réduction de la charge exercée sur l'infrastructure back-end permet à l'entreprise de gérer d'immenses pics de trafic sans difficulté. L'agrégation des connexions simultanées, dont le nombre s'élevait à environ 600 000 lors des pics d'affluence, a désormais permis de réduire à environ 1 000 le nombre de connexions au back-end de Kaizen, ce qui représente une diminution significative.

La solution a également permis de réduire la latence, un avantage qualifié par Kaizen « d'heureux hasard ». Pour les utilisateurs en Amérique latine qui se connectent à des serveurs situés en Europe, la latence a été réduite d'environ 1 seconde à 800-900 ms, contribuant à réduire le nombre de paris refusés.

Résultat : stabilité du système, économies de coûts et acceptation des paris

Pour Kaizen, l'adoption de Cloudflare a non seulement apporté des avancées techniques, mais également des avantages opérationnels directs et mesurables, qui ont contribué à optimiser la stabilité, les coûts et les performances essentielles.

Stabilité et évolutivité du système

Le gain le plus immédiat pour Kaizen a été la stabilité et l'évolutivité du système. En agrégeant près de 600 000 connexions client, qui a permis de réduire ce nombre à quelque 1 000 connexions au back-end, l'entreprise a éliminé le risque de pics de trafic susceptibles d'entraîner de l'instabilité, ainsi que la nécessité de surprovisionner continuellement près de 300 serveurs back-end.

« Une victoire pour nous, au-delà des économies de bande passante, est que, même lors des pics de connexions, nous n'avons plus à nous préoccuper de la stabilité du système. C'est un réel progrès, car nous sommes prêts pour tous les scénarios. »

Une réduction considérable des coûts de bande passante

En résolvant le problème de duplication des données à la périphérie, Kaizen a considérablement réduit le trafic réseau et les coûts.

Lors des pics d'affluence, la bande passante Internet requise a été réduite d'environ 50 Go à 2-3 Go seulement, soit une réduction de plus de 90 % (et de plus 200 % par rapport à la consommation précédente). Cela a également permis à Kaizen d'éviter les coûteuses mises à niveau continues des routeurs et des pare-feu, tandis que l'entreprise se développait rapidement sur plusieurs nouveaux marchés chaque année.

Performances essentiels et revenus

La solution a engendré, pour Kaizen, un « heureux hasard », sous la forme d'une réduction de la latence.

Pour les utilisateurs en Amérique latine qui se connectent à des serveurs situés en Europe, la latence a été réduite d'environ 1 seconde à 800-900 ms . Cette amélioration, en apparence mineure, du calcul à la périphérie a un impact considérable sur l'activité essentielle de Kaizen : elle permet aux clients de recevoir des mises à jour en temps réel assez rapidement pour placer leurs paris, avant que le système ne les refuse automatiquement comme étant obsolètes.

« « Une victoire pour nous est que, même lors des pics de connexions, nous n'avons pas à nous préoccuper de la stabilité du système, » déclare Kostas Stefanopoulos. « C'est un réel progrès, car nous sommes prêts pour tous les scénarios. »

En réduisant la charge sur son serveur d'origine, en diminuant les coûts de bande passante et en améliorant le taux de réussite des paris en direct, Cloudflare Durable Objects a aidé Kaizen à s'arroger un avantage concurrentiel dans le secteur dynamique des paris sportifs en temps réel.

Regarder vers l'avenir

Kaizen travaille avec Cloudflare à l'intégration de nouvelles fonctionnalités dans Betano. Maintenant qu'elle a résolu ses problèmes initiaux d'efficacité du trafic et de diffusion des données, l'entreprise est prête à poursuivre sa croissance et a l'intention d'étendre sa présence sur de nouveaux marchés.

Elle pourrait également ajouter de nouveaux événements sur chaque marché, car son infrastructure est désormais mieux positionnée pour gérer une charge plus importante sans surcharger l'infrastructure et les ressources internes. Kaizen a l'intention de continuer à tirer parti de l'informatique de périphérie (Edge) et à bénéficier des avantages opérationnels résultant du rapprochement du traitement et des données de ses utilisateurs finaux, et Cloudflare se tient à ses côtés pour l'accompagner à chaque étape de son parcours.

Comme l'explique Kostas Stefanopoulos, « Nous souhaitons tirer profit des avantages qu'offre la présence de l'infrastructure de Cloudflare dans le monde entier, qui nous permet de continuer à déployer des solutions aussi près que possible de nos clients ».