A gimnázium alapításánál az volt a cél, hogy „középtávon kinevelődjék egy népéhez kötődő jelentős számú roma értelmiségi réteg, amely képes újjászervezni a széthullott cigány közösségeket”. E cél elérése érdekében a Gandhi Alapítvány már 1992-ben azon munkálkodott, hogy a következő év szeptemberében elkezdődhessen a tanítás a főként beás gyermekeket oktató gimnáziumban. Az intézmény első igazgatója Bogdán János magyar–történelem–filozófia szakos tanár lett, aki meghatározó szerepet játszott az iskola létrehozásában is.

A tanítás a régió településeiről érkezett 56 diákkal indult, akik egy előkészítő, úgynevezett nulladik évfolyamon kezdték meg a munkát. Az első félév legfontosabb feladata az volt, hogy csökkentse a tanulók közötti tudáskülönbséget. 1995-ben a megbízhatóbb finanszírozás érdekében a Gandhi Alapítvány közalapítvánnyá vált. 1999 januárjában elhunyt Bogdán János. Halálával nemcsak az iskolát, hanem az egész cigány közéletet hatalmas veszteség érte. A gimnázium vezetését élettársa, Csovcsics Erika vette át, s ebben a tanévben avatták fel az intézmény korszerű sportcsarnokát, valamint ennek a tanévnek a végén érettségizett az első évfolyam.

2002-ben készült el a gimnázium új épülete, s az intézmény fennállásának tizedik évfordulójára Bogdán János nagy álma is megvalósult: német támogatással korszerű könyvtár és szabadidőközpont létesült a kollégium épületében. A gimnáziumban 2002 óta felnőttoktatás is folyik levelező, illetve esti oktatás formájában.

A 2003/2004-es tanévtől működtetik a nappali tagozaton a halmozottan hátrányos helyzetű diákok részére az Arany János Kollégiumi Programot. Az iskolában – nemzetiségi jellegéből adódóan – nagy jelentőségű tantárgyak a cigány nyelvek (beás és romani), valamint a cigány/roma kultúra. Fontos, hogy a gyerekek lássák a nemzetiségi nyelvek szépségeit, és legyen az identitásuk szerves része a közvetített cigány/roma kultúra elemeivel együtt. A diákok a cigány népismeret tantárgy tanulása során megismerkednek a cigány hagyományokkal, kultúrával, tanulnak a cigányok/romák történetéről, az indiai őshazáról, a vándorlásukról, néprajzukról, nyelvészetükről, nép- és műköltészetükről, művészetükről stb. E tantárgyak tanulása a nappali tagozat minden diákja számára kötelező, a felnőttek számára pedig választható.

A tanulók többsége jelentős szociális hátránnyal érkezik, az iskola arra törekszik, hogy ez ne akadályozhassa őket tanulmányaik elvégzésében. Folyamatosan figyelik a gyerekek körülményeinek alakulását, és anyagi lehetőségeikhez mérten segítséget nyújtanak a szülőknek gyermekeik iskoláztatásában. A nappali tagozaton 2000 óta közel 400 tanuló érettségizett, a felnőttoktatási tagozaton pedig 300 feletti érettségi bizonyítványt állítottak ki.

Az intézmény épületei két egymáshoz közeli területen találhatók. A Gandhi Alapítványi Gimnázium és Kollégium Komját Aladár utcai – 1997-ben elkészült – épületegyüttesének építész tervezője Patartics Zorán. Ebben az együttesben ma már csak a kollégium működik. A Dobó István utca 93. alatti gimnázium és tornacsarnok épületét Skardelli György tervezte.