Die konzeptionelle Basis des KNB bilden alle Einrichtungen, die überregionale Aufgaben für das Bibliothekswesen erfüllen:

• der Deutsche Bibliotheksverband (dbv) e.V., der Institutionenverband der Bibliotheken
• die Bibliotheksverbünde, die kooperative Datenbanken und Dienstleistungen bereitstellen
• die Bibliotheken mit nationalen Aufgaben (Deutsche Nationalbibliothek, Staatsbibliotheken in München und Berlin, sowie Zentrale Fachbibliotheken und einige andere)
• die staatlichen Fachstellen, die Öffentliche Bibliotheken unterstützen und beraten
• die ekz bibliotheksservice GmbH als Bibliotheksdienstleisterin

Diese Einrichtungen stellen ein sechsköpfiges Steuerungsgremium, das die Arbeit des KNB lenkt:

Das Steuerungsgremium des KNB

Vier Aufgabenträger haben im Rahmen des KNB überregionale Dienstleistungen übernommen:

Der Deutsche Bibliotheksverband e.V.:

• Internationale Kooperation
• Bibliotheksportal 
• BIX-Bibliotheksindex 
• Koordination des KNB

Das Hochschulbibliothekszentrum NRW:

• Deutsche Bibliotheksstatistik
• BIX-Bibliotheksindex

Die Staatsbibliothek zu Berlin:

• Beratungsstelle für EU-Förderung und internationale Projekte

Das DIN Institut:

• Normenausschuss Bibliotheks- und Dokumentationswesen (NABD)

Der Fachbereich Bibliothek und Information der HAW Hamburg betreibt unter der Schrimherrschaft des KNB das Fortbildungsportal http://www.wissenbringtweiter.de

Finanziert werden die bestehenden Arbeitsbereiche durch die Bundesländer über die KMK:

Das Kompetenznetzwerk berichtet an den Hochschulausschuss der KMK, der den Arbeitsplan und die Arbeitsberichte des KNB genehmigt.