Ich würde mir auf jeden Fall mehrere Angebote anschauen und dabei nicht nur den Preis vergleichen. Oft steckt der Unterschied eher darin, was tatsächlich enthalten ist und was später noch extra berechnet wird. Gerade Dinge wie mobile Optimierung, technische Einrichtung, kleinere Anpassungen nach dem Start oder grundlegende SEO Maßnahmen würde ich mir deshalb genau aufschlüsseln lassen.
Bevor ich mit Agenturen spreche, würde ich mir außerdem selbst kurz anschauen, welche Punkte bei einer Website grundsätzlich wichtig sind. Ich bin dabei unter anderem über eine Übersicht auf https://www.nederlandstaligesoftware.nl/blog/hoe-bouw-je-een-website/ gestolpert, wie man eine Website sinnvoll aufbaut. Themen wie Navigation, mobile Darstellung, Hosting und Tests vor dem Start kann man anschließend ganz gut als Orientierung für die Gespräche nutzen.
Bei Referenzen würde ich nicht nur auf die Optik achten. Ich würde mir die Seiten auch am Handy ansehen, ein paar Funktionen testen und schauen, wie schnell sie laden. Wichtig wäre mir außerdem, dass im Angebot klar geregelt ist, wer später für Änderungen, Wartung und technische Probleme zuständig ist.
Beim Thema SEO würde ich ebenfalls konkret nachfragen, was damit gemeint ist. Eine saubere Seitenstruktur, vernünftige Ladezeiten und korrekt gepflegte Seitentitel sind sinnvoll. Bei großen Versprechen zu bestimmten Google Platzierungen wäre ich eher vorsichtig.
Am Ende würde ich wahrscheinlich den Anbieter nehmen, bei dem die Leistungen nachvollziehbar erklärt werden und nicht ständig neue Zusatzkosten offenbleiben. Gerade bei einer neuen Website finde ich Transparenz fast wichtiger als einen möglichst niedrigen Einstiegspreis.