Ο Βούλγαρης αν και υπήρξε από τους συστηματικότερους εισηγητές των δυτικών επιστημών στον ελλαδικό χώρο, παρέμεινε σε όλη του τη ζωή πιστός στην αντίληψη ότι η αυθεντία των Γραφών βρίσκεται πάνω από κάθε άλλη γνωσιακή θεώρηση του κόσμου. Μεταφράζει Βολταίρο και παράλληλα συγγράφει ένα δοκίμιο περί ανεξιθρησκίας, όπου εξετάζει δύο μορφές ελευθερίας: την ελευθερία της σκέψης και την ελευθερία της μελέτης: Όσον αφορά την ελευθερία της σκέψης κάνει μία πολύ σημαντική παραχώρηση: ότι όσον αφορά τις ανθρωπιστικές τέχνες και επιστήμες μπορεί να υπάρχει πλήρης ελευθερία, κάτι που όμως δεν ισχύει όσον αφορά τις Γραφές, γιατί «όταν η ψυχή προσπαθεί να δει με άλλο φως όσα λένε οι Γραφές, τότε τυφλώνεται και περιπλανιέται» (δόγμα επί της φιλοσοφικής πρακτικής). Αντίστοιχα όσον αφορά την ελευθερία της μελέτης αυτή πρέπει να είναι απεριόριστη όταν πρόκειται για τη μελέτη των Γραφών και των πατερικών κειμένων, όχι όμως και όταν πρόκειται για τα έργα των ετερόδοξων και κακόβουλων συγγραφέων, επειδή το ελάχιστο καλό σε αυτά τα έργα είναι ανάμεικτο με το περισσότερο κακό.
Η έννοια της αρχής κατά τον Βούλγαρη είναι τριπλή: Αρχές είναι οι θεμελιωδέστερες οντότητες από τις οποίες προκύπτουν τα σύνθετα σώματα, όπως οι αριστοτελικές έννοιες του είδους και της ύλης. Αρχές είναι τα αίτια της γένεσης των σωμάτων, όπως η στέρηση και το ποιητικό αίτιο, πάλι κατά τον Αριστοτέλη. Αρχές είναι το σύνολο των θεμελιωδών εννοιών και αξιωμάτων, βάσει των οποίων είμαστε σε θέση να γνωρίσουμε τα αίτια. Σε όλα τα υπόλοιπα: Υποστηρίζει μια μηχανοκρατική θεώρηση του κόσμου. Χλευάζει τις κοσμολογικές απόψεις που ρέπουν προς τη μεταφυσική, αφού θεωρεί ότι είναι ανίκανες να ερμηνεύσουν τόσο τον κόσμο όσο και τα παρατηρούμενα φαινόμενα.
Πηγή: Γ. Χριστιανίδης, Δ. Διαλέτης, Γ. Παπαδόπουλος, Κ. Γαβρόγλου, Ελληνική Φιλοσοφία και Επιστήμη. Από την Αρχαιότητα έως τον 20ο αιώνα. τ. Β', σ. 340- 348.