Ohne entsprechende Linux Grundkenntnisse wird es mit einer Raspberry Pi noch viel schwieriger als mit der Synology.
Ziemlich mutig einfach so ein Paket auf dem NAS zu installieren.
Docker sind in sich selbst lauffähige Linux Container, das ist sehr praktisch weil man die fertig runterladen kann.
Leider ist das nur auf x86er CPU lauffähig bei Synology und co, ARM guckt da leider in die Röhre.
Die Leistungsfähigkeit ist bei den ARM von Synology eh nicht überdimensioniert, da ist ne Pi4 deutlich schneller.
Was genau hast du denn vor mit openHAB?
Die Pi selbst braucht zum laufen nur noch eine microSD Karte, Netzteil und ein Netzwerk/WLAN.
Zum einrichten brauchst du jedoch noch einen Monitor, Tastatur und wenn du es grafisch machen willst ne Maus.
Später brauchst du das alles nicht mehr, da läuft das Teil einfach nur im Hintergrund, Rest machst du dann im Browser von der Ferne.