KMA je osnovana 1999. godine, prvobitno pod nazivom „Kosovska regulatorna agencija za lekove“ (KMRA), a na osnovu Administrativnog uputstva 7/2000 od 23. marta 2000. godine uspostavljeno je njeno pravno postojanje kao Izvršne agencije Ministarstva zdravlja Kosova. Kasnije je pravni osnov KMA regulisan Zakonom br. 2003/26, izmenjenim 2010. godine Zakonom 03/L 188 o medicinskim proizvodima i uređajima, koji je stupio na snagu 15. novembra 2010. godine.
Pravila, dužnosti i odgovornosti KMA u vezi sa proizvodnjom, uvozom, izvozom, nadzorom itd. medicinskih proizvoda i uređaja precizno su definisane na osnovu Zakona o medicinskim proizvodima i uređajima, koji je usvojila Skupština Republike Kosovo 7. aprila 2014. godine.
Misija KMA je da zaštiti javno zdravlje osiguravanjem kvaliteta, bezbednosti i efikasnosti lekova koji se plasiraju na Kosovo.