1844/45 erbaute die Gemeinde Mandel aus Ziegelsteinen zwei neue stattliche Schulhäuser. Die beiden Gebäude mit den repräsentativen Treppen waren gleich groß. Mandel hatte konfessionsgetrennte Schulen. Im unteren Haus befand sich die evangelische Schule mit dem vorgelagerten Garten des evangelischen Lehrers. Das obere Gebäude war die katholische Schule, deren Garten hinter dem Schulhaus lag. Die Lehrerwohnungen befanden sich im Untergeschoss, der Schulsaal im Obergeschoss der Schulgebäude.
Die Gemeinde besaß seit dem 18. Jahrhundert bereits zwei Schulhäuser. Sie waren aber alt, renovierungsbedürftig und angesichts des Bevölkerungswachstums im 19. Jahrhundert zu klein. Obwohl Mandel durch die Errichtung einer neuen Kirche 1829/1830 finanziell stark belastet war, entschloss sich 1843 die Gemeinde, zwei neue Schulhäuser zu bauen. Die Protestanten bildeten den größeren Teil der Bevölkerung und verfügten über das größere finanzielle Potenzial. Sie stimmten dem Bau zweier gleicher Schulen nur zu, nachdem ihnen der Bürgermeister der Bürgermeisterei Mandel, Merkenich, das untere Schulhaus versprochen hatte. Auf der Suche nach einem geeigneten Bauplatz verkaufte Baron von Salis-Soglio, ein Nachfahre der Herren von Koppenstein, der Gemeinde eines seiner Grundstücke vor den Toren des Dorfes. Nach einem Jahr Bauzeit waren im Oktober 1845 die beiden aus Ziegelsteinen errichteten ganz gleich gebauten Schulhäuser bezugsfertig.
Entgegen der bereits getroffenen Vereinbarung ordnete Landrat Hout die Verlosung der Schulgebäude an. Da die Protestanten nicht das Los für die untere Schule zogen, verweigerten sie die Zustimmung zu dieser Verlosung. Sie besetzten kurzerhand die untere Schule. Auch durch diese Entscheidung des Präsidenten der Rheinprovinz über diesen Streit ließen sie sich nicht zur Räumung bewegen. Der 1847 neu angekommene katholische Lehrer Schitthof musste nun seinen Unterricht im Rathaus abhalten und privat bei der Familie Jerono Quartier nehmen. Nach zähen Verhandlungen wurde eine Einigung erzielt: Die Katholiken mussten die obere Schule beziehen und erhielten als Ausgleich das Gemeindegrundstück hinter dieser Schule zur Aufbesserung des Lehrergehalts.
Diesem Konflikt vorausgegangen waren Streitereien zwischen den Konfessionen in der gemeinsam genutzten Kirche, an denen der evangelische Lehrer Dittmar beteiligt war. Die Einstellung des neuen katholischen Pastors Dorbach richtete den Blick wieder mehr auf das Rituelle. Er hatte ein Kruzifix in die freie Nische des Drehtabernakels mit dem Allerheiligsten gestellt. Anstatt es nach der Messe durch Wegdrehen zu verbergen, arretierte er das Tabernakel mit einem Schloss. So konnte es Lehrer Dittmar, der auch als Küster tätig war, für den evangelischen Gottesdienst nicht wieder umdrehen. Mit Gewalt brach er das Schloss. Er erhielt entgegen den Vorstellungen des Pastors nur eine Verwarnung. Der Schaden wurde aus der Gemeindekasse gezahlt.
Andere unrühmliche Taten betrafen Lehrer Dittmars Verhalten gegenüber den Schülern. Nach 27 Jahren Schuldienst in Mandel ohne Beschwerden kam es 1853 zu Klagen der Eltern wegen „Missbrauch des Züchtigungsrechts“. Da der Amtsbürgermeister nur eine Ermahnung aussprechen wollte, gingen die Eltern in den Streik. Sie schickten ihre Kinder nicht mehr zur Schule. Zeitweise besuchten die Kinder sogar die katholische Schule. Die Eltern wollten erreichen, dass Lehrer Dittmar durch einen anderen Lehrer ersetzt würde. Der Bürgermeister drohte jedoch mit Bestrafung, wenn die Eltern ihren Widerstand nicht aufgaben. Bei Schulversäumnis sollte pro Tag entweder 1 Reichstaler Strafe gezahlt oder ein Tag Arreststrafe verbüßt werden. Da auch der protestantische Pfarrer Hessel sich hinter die Staatsmacht stellte, drohten die Eltern auch mit Streik des Gottesdienstes.
Angesichts einer Schülerzahl von über 100 Schreibschülern war es für den älteren Lehrer Dittmar keine leichte Situation. Dagegen hatte der junge katholische Lehrer Schitthof nur etwa 35 Schreibschüler zu beaufsichtigen. 1856 wurde Lehrer Dittmar in Pension geschickt.
Jedoch hatte die Gemeinde mit seinem Nachfolger auch kein Glück. Der aus Langenlonsheim kommende Lehrer Weiffenbach wurde von den Mandeler Eltern ebenfalls der „übermäßigen Züchtigung“ beschuldigt. Außerdem zog er als Weinhändler durch die Lande und widersprach damit jeglichem sittlichen Verhalten eines Lehrers. Es wurden ihm „geistige Störungen“ attestiert. Immer wieder kam es zu Aufenthalten in der „Irrenanstalt“, wenn ihm auch 1860 Dr. Prieger aus Bad Kreuznach Gesundheit bescheinigte. Es dauerte sieben Jahre bis Weiffenbach endlich in Pension geschickt wurde. Denn es stellte eine hohe Belastung der Gemeindekasse dar, dass zwei pensionierte Lehrer und ein neuer Lehrer finanziert werden mussten. Deshalb beantragte die Gemeinde einen Zuschuss bei der preußischen Regierung. Endlich konnten durch den neuen tüchtigen Lehrer Hammen die Missstände an der Schule beseitigt werden.
Im Laufe des 19. Jahrhunderts hatte sich die Ausbildung der Lehrer verbessert. Der Besuch einer Präparandie als Vorbereitung auf das Lehrerseminar, das mit einer Abschlussprüfung endete, wurde Standard. Dies trug zu einer Verbesserung des Unterrichts bei. Auch die Lerninhalte veränderten sich. Neben dem Studium der Bibel, Lesen, Schreiben und Rechnen fanden auch naturwissenschaftliche und andere Fächer den Weg in die Schulen. Auf die Ausstattung der Schulen mit entsprechenden Materialien wurde Wert gelegt. Auch die finanzielle Lage der Lehrer in Bezug auf die Besoldung wurde verbessert.
Mit der Reichsgründung erfuhr das Schulwesen weitere Förderung. 1888 wurde die schulgeldfreie Volksschule eigeführt; Mindestlöhne für die Lehrer wurden festgesetzt. Der evangelische Lehrer Hammen und der katholische Lehrer Görgen waren nun Lehrkräfte, die unter verbesserten Bedingungen unterrichteten. Monatliche Treffen der Lehrer des „Conferenzbezirkes“, bestehend aus den umliegenden Dörfern, mit einer angeschlossenen Lehrprobe dienten dem Austausch, der Besprechung von Lerninhalten und damit der Anhebung des Niveaus des Unterrichts.
Im 19. Jahrhundert stieg durch das allgemeine Bevölkerungswachstum auch die Zahl der Schüler. Die evangelische Schule besuchten zu der schon großen Anzahl an evangelischen Schülern zusätzlich noch die jüdischen Kinder. Deshalb wollte 1879 die Schulbehörde die 20 jüdischen Kinder der katholischen Schule zuweisen. Der Widerstand des katholischen Pastors verhinderte dies. Deshalb musste zeitweise eine zweite Lehrerinnenstelle geschaffen werden.
1914 wurde eine ländliche Fortbildungsschule eingeführt. Sie diente als Erziehungseinrichtung zwischen Schule und Militärzeit. Es bestand Pflicht zum Besuch dieser Schule.
An den beiden Schulgebäuden wurden Ende des 19. Jahrhunderts Reparaturarbeiten notwendig. Es wurde beklagt, dass die Substanz der Gebäude schlecht sei; von „Pfuscherei in Anlage und Ausführung“ war die Rede. Sowohl das evangelische als auch das katholische Schulhaus waren infolge des schlechten Baumaterials feucht und zeigten erste Risse. 1928 gab es sogar den Vorschlag, eine neue 2 bis 3 klassige Schule zu bauen, die den gehobenen Anforderungen gerecht würde. Aufgrund fehlender Mittel wurde dieser Plan zurückgestellt. 1914 wurde ein neues Toilettengebäude gebaut.
1937 wurde die Konfessionsschule aufgegeben und die Gemeinschaftsschule eingeführt, um die lückenlose Erziehung der Jugend in der Ideologie des Nationalsozialismus zu gewährleisten. Die Schüler wurden über die Konfessionen hinweg in Jahrgangsstufen unterrichtet. Mit dieser Organisation war die Kontrolle über das Schulsystem und damit die Ideologisierung gesichert.
Nach dem 2. Weltkrieg entschied die Gemeinde, wieder die Bekenntnisschule einzuführen und die Schüler nach Konfessionen zu trennen. Doch bereits 1947 wurden die Schüler endgültig in Jahrgangsstufen unterteilt. 1967 war die Zwergschule Mandel an der Gründung des Hauptschulverbandes Rüdesheim beteiligt. Schrittweise wurden die oberen Jahrgänge nach Rüdesheim verlagert. 1971 wurde die Schule in Mandel endgültig geschlossen. Seitdem besuchen die Grundschüler die Mittelpunktschule in Rüdesheim.
