OPNsense Projekt mit IPU-System, KVM, mehrere LAN Schnittstellen, VLAN

Started by DJ3MG, December 17, 2022, 08:27:08 AM

Previous topic - Next topic
Guten Morgen Zusammen,

ich hatte in der Vergangenheit eine OPNsense auf einem APU-Board in Benutzung und war sehr zufrieden. Allerdings war der Datendurchsatz bei meiner DSL-Verbindung zu langsam. Weil ich ansonsten schon viele Ubiquiti Produkte im Einsatz hatte, habe ich mir die UDM Pro gekauft.

Nach einem Jahr muss ich leider enttäuscht feststellen, dass die Firmwareupdates der UDM Pro immer nur kleine Bugfixes enthält, Neuerungen aber nur in der neuen Hardware Einzug erhalten:
So ist es z.B. immer noch nicht möglich, Wireguard über den offiziellen Weg zu installieren.
Weil die UDM darüber hinaus viel Energie verbraucht, möchte ich sie wieder ablösen. Da ich außerdem einen kleinen Server auf APU-Basis laufen habe, habe ich mir überlegt einen etwas performanteren Server aufzubauen und dort verschiedene Dinge zu Virtualisieren, sprich die OPNsense und den Inhalt des APU-Boards in verschiedenen KVM-Guests auf einer Hardware laufen zu lassen.

Dies zur Einleitung, nun mein Vorhaben:
Ich besitze ein IPU-System (wie das APU-Board, nur auf Intel-Basis und performanter) mit 64GB RAM, und einer Core i7 Notebook CPU der 11. Generation. Dieses System besitzt 6 LAN-Ports und diverse USB-Ports.
Ich habe CentOS als Basis installiert. Diese Basis soll als KVM-Host fungieren (möglichst schlank, ohne grafische Oberfläche). OPNsense soll virtualisiert laufen und alle LAN-Ports an sich binden. Fünf der sechs LAN-Ports sollen als managebarer Switch dienen (verschiedene VLANs), ein LAN-Port soll als WAN UND Upload-Port ins LAN dienen (ist derzeit mit VLAN7 der Telekom realisiert, das ich tatsächlich an der UDM als physikalischen Loop enrichten musste).

Meine Fragen:
1. Wie kann ich die OPNsense als KVM-Gast einrichten?
2. Wie kann ich die LAN-Ports komplett an die OPNsense durchreichen um sie von der OPNsense aus zu managen?
3. Ich habe nur ein Netzwerkkabel im Arbeitszimmer liegen. Das kommt vom Switch im "Multimedia-Schrank" des Vermieters, auf dem auch das Modem angesteckt ist, führt ins Arbeitszimmer zum Router und geht mit den verschiedenen VLANs auf dem selben Draht zurück in den Multimediaschrank, von wo aus die Signale in die Wohnung weiter verteilt werden. Wie lässt sich soetwas realisieren, ohne wieder einen physikalischen Loop bauen zu müssen?

Ich freue mich sehr über Tipps, Hilfen und Ideen. Mein größtes Problem ist übrigens gerade Frage #1.


Quote from: DJ3MG on December 17, 2022, 08:27:08 AM
Meine Fragen:
1. Wie kann ich die OPNsense als KVM-Gast einrichten?
2. Wie kann ich die LAN-Ports komplett an die OPNsense durchreichen um sie von der OPNsense aus zu managen?
3. Ich habe nur ein Netzwerkkabel im Arbeitszimmer liegen. Das kommt vom Switch im "Multimedia-Schrank" des Vermieters, auf dem auch das Modem angesteckt ist, führt ins Arbeitszimmer zum Router und geht mit den verschiedenen VLANs auf dem selben Draht zurück in den Multimediaschrank, von wo aus die Signale in die Wohnung weiter verteilt werden. Wie lässt sich soetwas realisieren, ohne wieder einen physikalischen Loop bauen zu müssen?

Ich freue mich sehr über Tipps, Hilfen und Ideen. Mein größtes Problem ist übrigens gerade Frage #1.

zu 1. da ich länger nichts mit centos gemacht habe empfehle ich das zu googlen (habe keine antwort, deine frage bezieht sich ja nicht auf opnsense sonder auf centos wie du was machen sollst, da am besten in ein centos forum fragen)
zu 2. wie zu 1.
zu 3. könnte man mit VLANs versuchen, wird aber bandbreite kosten (währe nicht meine wahl)

PS: die meisten nutzen proxmox zum virtualisieren
PPS: wenn du schon probleme hast wie du was virtualisierst, bist du dir sicher das es eine gute idee ist das so umzusetzen, es werden noch mehr probleme auf dich zu kommen, keine ahnung wie deine netzwerkkenntnisse sind, aber meine empfehlung: fang doch lieber erstmal ganz simpel an mit einer sense auf echter hardware und wenn du die beherscht kannst du dich ja später mal an das thema virtualisierung wagen
Internet: Willy.tel Down: 1Gbit/s, UP: 250Mbit/s Glasfaser  |
Router/Firewall: pfSense+ 23.09  |
Hardware: Netgate 6100

Hallo micneu,
danke für die Antwort.

Quotezu 1. da ich länger nichts mit centos gemacht habe empfehle ich das zu googlen (habe keine antwort, deine frage bezieht sich ja nicht auf opnsense sonder auf centos wie du was machen sollst, da am besten in ein centos forum fragen)
Eigentlich ist es ziemlich egal, ob es Ubuntu, CentOS, etc. ist, weil die KVM Umgebung immer die gleiche ist. Mir geht es hierbei weniger um CentOS, sondern rein um die CLI-Befehle für den Virtualisierer.

Quotezu 3. könnte man mit VLANs versuchen, wird aber bandbreite kosten (währe nicht meine wahl)
So habe ich es zur Zeit ja zwangsläufig realisiert. Aber mit den Einbußen kann ich aktuell sehr gut leben.

QuotePS: die meisten nutzen proxmox zum virtualisieren
Das habe ich in der Vergangenheit auch immer genutzt, bläht das System aber m. E. sehr auf. Ich möchte halt ein stabiles, schlankes Host Betriebssystem als Basis haben. Die Probleme mit Proxmox entstanden immer dann, wenn es für Proxmox ein Major-Update gab.

QuotePPS: wenn du schon probleme hast wie du was virtualisierst, bist du dir sicher das es eine gute idee ist das so umzusetzen, es werden noch mehr probleme auf dich zu kommen, keine ahnung wie deine netzwerkkenntnisse sind, aber meine empfehlung: fang doch lieber erstmal ganz simpel an mit einer sense auf echter hardware und wenn du die beherscht kannst du dich ja später mal an das thema virtualisierung wagen
.
Meine Netzwerkkentnisse sind nicht das Problem. Und wie ich bereits schrieb, habe ich jahrelange Erfahrung auf echter Hardware mit der OPNsense. Mein Problem ist halt derzeit einfach eine möglichst schlanke Virtualisierung mit durchreichen der Ethernetschnittstellen.

Also: eigentlich geht es nur darum, OPNsense in KVM zu virtualisieren und die Schnittstellen sauber durchzureichen.


Wie soll jemand hier die CLI Befehle für einen Linux Hypervisor wissen? Die meisten, die virtualisieren, benutzen eine entsprechende Plattform wie z.B. Proxmox. Und dann ist es "ISO auf den Host werfen, VM zusammenklicken, booten und installieren". Ich wüsste nicht mal wie das für bhyve auf der Kommandozeile funktioniert, geschweige denn Linux. Ich hab noch nie einen Hypervisor ohne UI benutzt.

Die lange Erklärung, damit es nicht unhöflich rüber kommt. Irgendeine Linux/KVM Community kann dir da wahrscheinlich besser helfen. Zu allen OPNsense Fragen, dann gerne wider hier.
Deciso DEC750
People who think they know everything are a great annoyance to those of us who do. (Isaac Asimov)

Quote from: DJ3MG on December 17, 2022, 06:08:24 PM
Das habe ich in der Vergangenheit auch immer genutzt, bläht das System aber m. E. sehr auf. Ich möchte halt ein stabiles, schlankes Host Betriebssystem als Basis haben. Die Probleme mit Proxmox entstanden immer dann, wenn es für Proxmox ein Major-Update gab.
Kann ich nicht sagen, Proxmox ist eine absolut zuverlässige Virtualisierungslösung, die vollkommen stabil und performant läuft.
Es gibt genug Leute, die lassen OPNSense unter Proxmox laufen und das funktioniert sehr gut.

Zudem Proxmox brauch selber nicht viel Resorucen. mein Proxmoxserver hat aktuell eine Speicherauslastung von rund 12 GB und  2% CPU-Load ( bei 16 Core ) - dabei laufen aber 12 Linux-Container und 4 Linux-VM's + 1 Win11-VM da derzeit drauf u.a. auch Datenbanken, Monitoringsystem und meine Smarthome-Software.

Ganz ehrlich: ich würde Proxmox 10mal jeder Linux-KVM-Installation vorziehen.


Aus eigener Erfahrung kann ich dir eigentlich auch Proxmox (mit Enterprise Sub.) ans Herz legen. Hab einige Hypervisor bereits hinter mir aber für den Use-Case und keiner "Norm" Hardware ist das eigentlich der beste Kompromiss und zudem auch schön schlank.

Zudem kannst du je nach Setup auch noch von der Magie des ZFS profitieren. (Snapshots, Backups im Laufenden Betrieb etc...)

Das alles kannst du natürlich auch mit KVM machen, den Proxmox ist nichts anderes als ein "Userfriendly" WebIF für KVM.

Was das aber im konkreten Bedeutet ist, das du sämtliche Automatisierungen, Starts, etc. selbstständig machen musste.

Weil du Centos ansprichst, würde ich wohl eher zu RHEL greifen und dann mit dem Cockpit ein "Proxmox ähnliches" Setup errichten.
Ginge zwar mit Centos auch, aber wir reden hier a von "Stabilität" (Kleiner Downstream hint ;-) )


Quote from: moe on December 19, 2022, 02:54:17 PM
Weil du Centos ansprichst, würde ich wohl eher zu RHEL greifen und dann mit dem Cockpit ein "Proxmox ähnliches" Setup errichten.
Ginge zwar mit Centos auch, aber wir reden hier a von "Stabilität" (Kleiner Downstream hint ;-) )
Ich hab aus seinem Thread gelesen, das er das Teil für zuhause haben will und willst ihm RHEL nahelegen, in meinen Augen vollkommen oversized.
RHEL macht dann Sinn, wenn du wie wir in der Firma das auch kommerziellen System installiert, die Umsatz bringen müssen und wir Support benötigen.
Aber selbst dort stellen wir das ganze bereits in Frage.

Für Hausgebrauch empfehle ich - und nutze es selber ausschliesslich - Ubuntu und direkt Proxmox ( wo Debian drunter läuft ) und eine Sbscription für Proxmox ist für den Hausgebrauch auch überflüssig.

@tuxtom007,
bitte sei doch so nett und ließ nochmals was ich geschrieben habe.
Meine Empfehlung für seinen Aufbau ist es Proxmox zu verwenden.

Da er aber mit Centos liebäugelt würde ich wie gesagt eher zu RHEL greifen, den da gibt es wie du ja sicherlich wissen wirst, eine kostenlose Subscription für 16 Hosts.

Und ja, jeder interpretriert private Bedürfnisse/Verfügbarkeiten anders, vielleicht will ich ja nur dem Alptraum aus dem Weg gehen wenn um 08:00 bei der PrimeTime das Streaming nicht klappt und die Damen im Haushalt ihrer Sendung nicht folgen können  ;D