Efter att ha försökt i så lång tid lyckades jag äntligen få det här att fungera ... här är vad jag gjorde :
QSqlDatabase db = QSqlDatabase::addDatabase("QODBC3");
db.setDatabaseName("DRIVER={SQL Server};Server=ITPL_PC1;Database=Test;Uid=sa;Port=1433;Pwd=*******;WSID=.");
db.open();
QSqlQueryModel *model = new QSqlQueryModel;
QString query = "insert into qttable(PID) values('ARINDAM')";
model->setQuery(query, db);
db.close();