Kaizen Gaming

Come Kaizen Gaming ha ottimizzato la propria infrastruttura con Cloudflare Durable Objects

Kaizen Gaming è una delle società di tecnologia di gioco più grandi e conosciute al mondo. Fondata ad Atene, in Grecia, nel 2012, Kaizen presenta 1,5 milioni di eventi ogni anno e trasmette in live streaming oltre 400.000 eventi in 19 mercati. È anche sponsor ufficiale di Copa América, Conferenza UEFA ed Europa League.

Kaizen possiede Betano, un marchio premium di scommesse sportive e gaming online che utilizza una tecnologia proprietaria per fornire un'interfaccia intuitiva e un'esperienza di scommesse e casinò coinvolgente a oltre 13 milioni di clienti in tutto il mondo.

La piattaforma Betano fornisce aggiornamenti in tempo reale da un flusso di dati di scommesse live sui risultati sportivi. Fornire questi aggiornamenti durante i principali eventi sportivi può rappresentare una sfida, poiché centinaia di migliaia di dispositivi accedono alle applicazioni Kaizen contemporaneamente. L'azienda era alla ricerca di modi per supportare il live streaming con efficienza e scalabilità ottimali.

Problema: routing del traffico inefficiente e connessioni eccessive

Kaizen ha una sfida di distribuzione dei dati decisamente ad alta pressione. Quando un cliente vuole piazzare una scommessa, deve sapere cosa sta succedendo nell'evento senza ritardi significativi.

Secondo Kostas Stefanopoulos, Principal Site Reliability Engineer presso Kaizen: "Se vedi un goal segnato e vuoi scommettere, non c’è tempo da perdere, quindi tutto deve essere in tempo reale. Questo crea un carico di traffico importante per il nostro software".

Soddisfare queste aspettative è stata una sfida significativa con l'infrastruttura precedente di Kaizen. Per fornire dati in tempo reale a una base di clienti globale, ha utilizzato un backend personalizzato basato su Microsoft SignalR per la gestione delle connessioni WebSocket.

Il problema principale era di efficienza e scalabilità: il dispositivo di ogni utente finale stabiliva una connessione WebSocket dedicata e persistente ai server di origine di Kaizen situati in Europa. Quando si verificava un aggiornamento del gioco, come un goal segnato, gli stessi dati venivano duplicati e inviati attraverso l'oceano a centinaia di migliaia di singoli dispositivi.

Questa architettura ha creato tre problemi critici:

• Carico e costi eccessivi: al picco, era necessario supportare oltre 600.000 connessioni client simultanee. Poiché ogni pod di backend personalizzato poteva gestire solo circa 2.000 connessioni SignalR, Kaizen richiedeva circa 300 server personalizzati solo per questa funzione . Questo ha creato una configurazione ingombrante e a uso intensivo di risorse.
• Larghezza di banda non necessaria: il trasferimento costante e duplicato di dati ha comportato un carico di rete enorme e costoso.
• Elevata latenza e perdita di entrate: il routing del traffico globale (ad esempio, dal Brasile) all'Europa ha comportato una latenza elevata, spesso di circa un secondo. Nelle scommesse sportive, la velocità è tutto. Se un cliente prova a scommettere su una vista obsoleta del gioco, anche un ritardo di 10 secondi può causare l'annullamento o il rifiuto della scommessa , con un impatto diretto sull'esperienza del cliente e sulle metriche aziendali principali di Kaizen.

Ma per Kaizen non c'erano alternative. "Dovevamo essere preparati al peggio", ha spiegato Stefanopoulos. "Immaginate se metà del Brasile decidesse di accedere contemporaneamente. Non c’è spazio per la scalabilità automatica in questo caso".

Soluzione: Cloudflare aiuta Kaizen a migliorare l'efficienza e la scalabilità per soddisfare le aspettative degli utenti

Kaizen ha originariamente implementato Cloudflare per la mitigazione degli attacchi DDoS. Mentre Kaizen cercava una soluzione per i suoi problemi, ha contattato Cloudflare per trovare un modo intelligente per scaricare la sua origine, semplificare la distribuzione dei dati e ridurre drasticamente i costi.

In primo luogo, Kaizen ha distribuito Cloudflare Workers e Durable Objects per fungere da reverse proxy all'edge. Questa nuova architettura aggrega le connessioni client vicine all'utente e stabilisce un'unica connessione WebSocket semplificata da Cloudflare al backend europeo, risolvendo fondamentalmente il problema di distribuzione.

Durable Objects gestisce questo in due modi principali:

1. Consolidamento delle connessioni : ogni Durable Object aggrega migliaia di connessioni di singoli utenti. Invece di circa 600.000 connessioni che colpiscono l'origine di Kaizen al picco, il carico è ora aggregato a sole circa 1.000 connessioni . Durable Objects assorbe gli immensi picchi di traffico e scarica il carico di scalabilità dall'infrastruttura di Kaizen.
2. Distribuzione basata su edge : ogni Durable Object funge da hub basato su abbonamento. Se 10.000 utenti sono abbonati allo stesso live streaming, il Durable Object recupera l'aggiornamento dall'origine solo una volta e quindi lo distribuisce istantaneamente a tutti gli abbonati dalla posizione all'edge di Cloudflare più vicina a loro.

Come ha notato Stefanopoulos, questa nuova architettura edge è una vittoria significativa.

"Durable Objects risponde più vicino all'utente finale, quindi i messaggi viaggiano attraverso l'oceano meno volte rispetto a prima e in realtà vengono distribuiti più vicino ai clienti".

Per Kaizen, la stabilità e la scalabilità del sistema sono il principale vantaggio dell'utilizzo di Cloudflare. La riduzione del carico sulla loro infrastruttura backend ha consentito all'azienda di gestire immensi picchi di traffico senza alcun timore. Il numero di connessioni simultanee da circa 600.000 nelle ore di punta è ora aggregato a circa 1.000 che raggiungono il loro backend: una riduzione significativa.

La soluzione ha anche apportato miglioramenti in termini di latenza, che Kaizen ha definito un "felice incidente". Per gli utenti in America Latina che si connettono ai server europei, la latenza è stata ridotta da circa 1 secondo a un intervallo di 800-900 ms, contribuendo a ridurre il numero di scommesse rifiutate.

Il risultato: stabilità del sistema, risparmio sui costi e scommesse accettate

Per Kaizen, il passaggio a Cloudflare ha portato non solo vantaggi tecnici, ma anche vantaggi aziendali diretti e misurabili che hanno contribuito a ottimizzare stabilità, costi e performance principali.

Stabilità e scalabilità del sistema

La vittoria più immediata per Kaizen è stata la stabilità e la scalabilità del sistema. Aggregando circa 600.000 connessioni client a circa 1.000 che raggiungono il loro backend, ha eliminato il rischio che i picchi di traffico causassero instabilità e la necessità di eseguire costantemente l'overprovisioning di circa 300 server backend.

"Un'enorme vittoria per noi (a parte il risparmio di larghezza di banda) è che ogni volta che riceviamo picchi di connessioni, non dobbiamo preoccuparci della stabilità del sistema. È una reale vincita, perché siamo preparati per tutti gli scenari".

Enorme riduzione dei costi della larghezza di banda

Risolvendo il problema della duplicazione dei dati all'edge, Kaizen ha ottenuto una significativa riduzione del traffico e dei costi di rete.

Al picco, la larghezza di banda Internet richiesta è stata ridotta da circa 50 Gb a soli 2-3 Gb circa, una riduzione di oltre il 90% (e praticamente del 200% rispetto all'utilizzo precedente). Questo ha consentito anche a Kaizen di evitare aggiornamenti continui e costosi a router e firewall man mano che si espandeva rapidamente in più nuovi mercati ogni anno.

Performance e ricavi principali

La soluzione ha prodotto un "felice incidente" sotto forma di riduzione della latenza.

Per gli utenti in America Latina che si connettono ai server europei, la latenza è stata ridotta da circa 1 secondo a un intervallo di 800-900 ms . Questo miglioramento apparentemente piccolo dell'edge computing ha un profondo impatto sulla sua attività principale: significa che i clienti ricevono aggiornamenti in tempo reale abbastanza velocemente da piazzare scommesse prima che il sistema li rifiuti automaticamente come obsoleti.

"Un'enorme vittoria per noi è che ogni volta che riceviamo picchi di connessioni, non dobbiamo preoccuparci della stabilità del sistema", afferma Stefanopoulos. "È una reale vincita, perché siamo preparati per tutti gli scenari".

Riducendo il carico sulla sua origine, riducendo i costi della larghezza di banda e migliorando il tasso di successo delle scommesse live, Cloudflare Durable Objects ha aiutato Kaizen a garantire un vantaggio competitivo nel frenetico settore delle scommesse sportive in tempo reale.

Uno sguardo al futuro

Kaizen collabora con Cloudflare per creare nuove funzionalità in Betano. L'azienda è pronta per la crescita e prevede di espandere la propria presenza in nuovi mercati ora che ha risolto i problemi iniziali di efficienza del traffico e distribuzione dei dati.

Può anche aggiungere più eventi in ogni mercato, perché la sua infrastruttura è ora in una posizione migliore per gestire un carico maggiore senza sovraccaricare l'infrastruttura e le risorse interne. Kaizen intende continuare a sfruttare l'edge computing e a trarre vantaggi commerciali dall'avvicinamento di elaborazione e dati ai propri utenti finali, e Cloudflare è sempre disponibile a supportarla in ogni fase del processo.

Come afferma Stefanopoulos: "Vogliamo trarre vantaggio dall'avere un'infrastruttura Cloudflare in tutto il mondo, perché ci consente di continuare a distribuire il più vicino possibile ai nostri clienti".