Grønlænderhusenes historie går langt tilbage i det dansk-grønlandske samarbejde. Ganske vist klarede man sig i de første 150 år af kolonitiden med privat indkvartering i feks. præstehjem i Danmark for de få grønlændere, der fik mulighed for uddannelse som lærer/kateket, bødker, jordemoder og lignende i Danmark.
I 1878 blev det første grønlænderhus oprettet i en lejlighed på Amager, der fungerede som pensionat for nogle få grønlændere på uddannelse i København. Allerede 2 år efter, i 1880, byggede Grønlands Styrelse et nyt grønlænderhus i Ndr. Frihavnsgade, der dengang var et åbent villakvarter uden for den egentlige by.
Der var plads til 11 beboere, både mandlige og kvindelige. Kvinderne var oftest i Danmark for at blive uddannet til jordemødre, mændene fik i reglen en håndværksmæssig uddannelse som f.eks. bødker eller bøssemager, erhverv, der var stort behov for i Grønland.
Lærer- og kateketuddannelse var for længst oprettet i selve Grønland, med seminarierne i Ilulissat og Nuuk allerede fra 1847.
Efter 2. Verdenskrig, hvor den moderne udvikling i Grønland blev sat i gang med rivende hast, blev der hurtigt behov for et nyt, stort Grønlænderhus, der kunne tage imod de flere og flere grønlændere, der fik tilbud om uddannelse i Danmark.
I 1952 lejede og senere købte Staten Grønlænderhjemmet i Hellerup, der både fungerede som kollegium og senere især som patienthospital for Grønlands Sundhedsvæsen. I dag er Grønlænderhjemmet i Hellerup nedlagt og patienthjemmet flyttet til Østerbro
Fra midten af 1960’erne blev antallet af grønlændere på uddannelse i Danmark og grønlændere, der var flyttet til Danmark, imidlertid så stort, at der blev behov for flere grønlandske institutioner over hele landet. I løbet af en ret kort årrække indtil midten af 1970’erne blev der oprettet 4 grønlandske efterskoler i Danmark, særlige grønlandske klasser på pædagog- og handelsskoler, og i alt 6 grønlænderhuse.
Efterhånden som Grønlands Hjemmestyre fra 1979 fik opbygget en komplet Folkeskole i Grønland, fra de mindste klasser til gymnasieuddannelse, og ligeledes fik etableret fagskoler for de fleste håndværker-og mellemuddannelser, blev behovet for grønlandske institutioner igen mindre, og i dag er der kun de 4 grønlandske huse tilbage og patienthjemmet på Østerbro.
De fire grønlandske huse (Aalborg, Aarhus, Odense, København) er alle oprettet som selvejende institutioner med det daværende Grønlandsministerium som den nærmeste samarbejdspartner og største bidragyder, mens den lokale kommune yder et betydningsfuldt, men mindre bidrag til driften. Kort efter Hjemmestyrets indførelse i 1979 overtog Hjemmestyrets afdelinger for uddannelse og sociale forhold ansvaret for de grønlandske huse fra ministeriet.
Det Grønlandske Hus i Aarhus har sin rod i et oprindelig privat initiativ, hvor den lokale grønlænderforening Kajak etablerede et mødested i en lejlighed i Sønder Alle, hvor Politistationen ligger. Dette mødested blev omdannet til selvejende institution under Grønlandsministeriet i 1972, og senere flyttet i 1976 til den nuværende bygning på Dalgas Avenue. Allerede inden flytningen indtrådte repræsentanter for Aarhus Kommune og Aarhus Amt i bestyrelsen.
Ved flytningen i 1976 overtog Det Grønlandske Hus den store, smukke villa på Dalgas Avenue 52, som hidtil havde været anvendt som diakonskole, og endnu tidligere som husmoderskole. Efter en omfattende ombygning, som blev bekostet af ejeren, Aarhus Kommune, kunne Det Grønlandske Hus begynde sin virksomhed, både som bosted for grønlandske elever og lærlinge og som samlingssted for medlemmerne i den grønlandske forening.
De første mange år fungerede huset hovedsageligt som et lærlingehjem, ligesom huset blev flittigt benyttet som samlingssted for grønlænderforeningens medlemmer.
Efterhånden som håndværksuddannelserne blev ført hjem til Grønland, mistede huset sit præg af lærlingehjem, og fungerer i dag mere som en serviceinstitution, der udfører specifikke funktioner, og som kollegium for studerende.