Ich hab viel rumprobiert und getestet, letztendlich komme ich aber zu dem Schluss: Open source und selber hosten eröffnet einem immer noch die meisten Möglichkeiten.
An System kann ich discourse.org und mybb.com empfehlen.
Ob sich die Systeme auch als Wiki eignen, muss jeder für seinen Anwendungsfall selbst entscheiden. Ich persönlich finde es schöner, sich über die Inhalte auch Austauschen zu können, würde also eher zu einem Wiki im Forum tendieren. Soll es doch ein reines Wiki sein, empfehle ich dokuwiki.org. Ist Open Source und mit minimalem Aufwand auf einem Webserver installierbar, benötigt noch nicht einmal eine Datenbank.