Bedre måde at komprimere data på

• Af:
  
• John Nyberg

Forskergruppen Network Computing, Communications & Storage ved AU har udviklet en måde at komprimere data på. Komprimeringsteknikken giver mulighed for at udføre dataanalyse direkte på komprimerede filer, og det kan have stor betydning for den såkaldte data-tsunami, som Internet of Things, IoT-enheder, kan medføre. Med en bevilling på knap 3 millioner kroner fra Danmarks Frie Forskningsfond skal metoden nu videreudvikles og danne ramme for en end-to-end-løsning, der kan hjælpe med at nedskalere de eksponentielt stigende datamængder fra IoT-enheder.

”Hvis du i dag skal bruge 1 Byte data fra en 100 MegaByte-komprimeret fil, er du som regel nødt til at dekomprimere en stor del af filen for at få adgang til data. Vores teknologi giver hurtig adgang til de komprimerede data. Det betyder, at du kan få adgang til 1 Byte data ved at dekomprimere mindre end 100 Bytes, hvilket er flere størrelsesordener lavere end andre moderne teknologier. Det kan få kæmpe betydning for datatilgængelighed, databehandlings-hastighed og skylagrings-infrastrukturen,” siger AU-lektor Qi Zhang.

Qi Zhang leder projektet, som udføres i samarbejde mellen AU´s Institut for Datalogi og eksperter fra Massachusetts Institute of Technology, MIT, Boston University, Terma og Energinet.

Komprimeringsteknikken gør det muligt at komprimere IoT-data (typisk data i tidsserier) i realtid, inden data sendes i skyen. Herefter kan typisk dataanalyse udføres direkte på de komprimerede data. Der er således ikke behov for at dekomprimere alle eller store fraktioner af data for at udføre analysen.

Det kan potentielt afhjælpe det stadigt stigende pres på kommunikation og infrastruktur til datalagring, og forskergruppen mener, at projektets resultater vil tjene som et fundament for udviklingen af bæredygtige IoT-løsninger og få en dyb indvirkning på digitaliseringen:

”I dag streames IoT-data konstant til skyen, og som en konsekvens af de enorme mængder af IoT-enheder, der implementeres globalt, forventes en eksponentiel datavækst. For at imødekomme hurtig dataindsamling og -analyse foretrækker man ofte i dag at lagre data ukomprimeret. Ulempen ved det er, at det bruger meget lagerplads. Men, hvis man lagrer data i komprimeret form, tager det tid at dekomprimere data, før man kan få adgang til dem og analysere dem. Dette projekt har derfor potentiale til ikke blot at reducere datalagringsplads, men også at fremskynde dataanalyse,” siger Qi Zhang.