مورد إلكتروني
Design and evaluation of an inter-core QUIC connection migration approach for intra-server load balancing
| العنوان: | Design and evaluation of an inter-core QUIC connection migration approach for intra-server load balancing |
|---|---|
| عناروين إضافية: | Utformning och utvärdering av en QUIC migrationsmetod mellan kärnor för internbalansbelastning |
| بيانات النشر: | KTH, Skolan för elektroteknik och datavetenskap (EECS) 2021 |
| تفاصيل مُضافة: | Wang, Zhe |
| نوع الوثيقة: | Electronic Resource |
| مستخلص: | With the emergence of novel cloud applications and their critical latency demand [1], Quick UDP Internet Connection (QUIC) [2] was proposed as a new transport protocol that is promising to reduce the connection establishment overhead while providing security properties similar to Transport Layer Security (TLS) [3]. However, without an efficient task scheduling mechanism, the high cost for encryption and decryption in QUIC can easily lead to load imbalance among multiple Central Processing Unit (CPU) cores and thus cause a high tail latency. In this paper, we proposed a QUIC connection inter-core migration scheme that can dynamically dispatch QUIC connections among CPU cores while keeping the service continuity. We emulated a scenario where the traffic load on two CPU cores is not even and tried to migrate connections from an overloaded CPU to another idle one. The results showed that the load imbalance can be reduced and both of the two CPU cores can be efficiently utilized. Moreover, the throughput can be improved by around 15% with a set of proper parameters thanks to the inter-core connection migration scheme. It was also revealed that the overhead introduced by the connection inter-core migration mechanism is relatively low when applying the migration to a large connection. Med uppkomsten av nya molnprogram och deras kritiska latens efterfrågan [1], QUIC [2] föreslogs som ett nytt transportprotokoll som lovar att minska anslutningen etableringskostnader samtidigt som de tillhandahåller säkerhetsfastigheter som liknar TLS [3]. Dock utan en effektiv uppgift schemaläggningsmekanism, den höga kostnaden för kryptering och dekryptering i QUIC kan enkelt leda till obalans mellan flera CPU kärnor och orsakar därför en hög svanslatens. I detta dokument föreslog vi a QUIC-anslutning mellan kärnmigrationsschema som dynamiskt kan skickas SNABBA anslutningar mellan CPU kärnor samtidigt som servicekontinuiteten bibehålls. Vi emulerat ett scenario där trafikbelastningen på två CPU kärnor inte är jämn och försökte migrera anslutningar från en överbelastad CPU till en annan inaktiv. De resultaten visade att belastningsobalansen kan reduceras och båda de två CPU: erna kärnor kan utnyttjas effektivt. Dessutom kan genomströmningen förbättras med cirka 15% med en uppsättning korrekta parametrar tack vare anslutningen mellan kärnor migrationsschema. Det avslöjades också att de omkostnader som infördes av anslutning mellan kärnmigrationsmekanismen är relativt låg vid ansökan migreringen till en stor anslutning. |
| مصطلحات الفهرس: | Intra-server load balancing, QUIC protocol, Connection migration, BPF, Connection management, Lastbalansering mellan servern, QUIC protokoll, Anslutningsmigrering, Anslutningshantering, Computer and Information Sciences, Data- och informationsvetenskap, Student thesis, info:eu-repo/semantics/bachelorThesis, text |
| URL: | TRITA-EECS-EX ; 2021:737 |
| الإتاحة: | Open access content. Open access content info:eu-repo/semantics/openAccess |
| ملاحظة: | application/pdf English |
| أرقام أخرى: | UPE oai:DiVA.org:kth-305452 1293945623 |
| المصدر المساهم: | UPPSALA UNIV LIBR From OAIster®, provided by the OCLC Cooperative. |
| رقم الأكسشن: | edsoai.on1293945623 |
| قاعدة البيانات: | OAIster |
| الوصف غير متاح. |