Foundations for analyzing security APIs in the symbolic and computational model

295 Pages·2013·1.42 MB·English

ENSC-201X-N◦YYY
THÈSE DE DOCTORAT DE L’ÉCOLE NORMALE
SUPÉRIEURE DE CACHAN
Présentée par
Monsieur Robert Künnemann
Pour obtenir le grade de
DOCTEUR DE L’ÉCOLE NORMALE SUPÉRIEURE
DE CACHAN
Domaine :
informatique
Sujet de la thèse :
FOUNDATIONS FOR ANALYZING SECURITY APIS
IN THE SYMBOLIC AND COMPUTATIONAL MODEL
07 01 2014
Thèse présentée et soutenue à Cachan le / / devant le jury
composé de :
Ralf Küsters Professeur Rapporteur
Matteo Maffei Professeur Rapporteur
Hubert Comon-Lundh Professeur Examinateur
Joshua Guttman Professeur Examinateur
Thomas Jensen Directeur de recherche Examinateur
David Pointcheval Directeur de recherche Examinateur
Steve Kremer Directeur de recherche Directeur de thèse
Graham Steel Chargé de recherche Directeur de thèse
Laboratoire Spécification et Vérification
8643
ENS de Cachan, UMR du CNRS
61
, avenue du Président Wilson
94235
CACHAN Cedex, France

FOUNDATIONS FOR ANALYZING SECURITY APIS IN THE
SYMBOLIC AND COMPUTATIONAL MODEL
robert künnemann
2013
October
Robert Künnemann: Foundations for analyzing security APIs in the sym-
bolic and computational model, © October 2013
A map is not the territory it represents, but, if correct, it has a similar
structure to the territory, which accounts for its usefulness.
— Alfred Korzybski
Für meine Eltern.

ABSTRACT
Security critical applications often store keys on dedicated Hardware
Security Modules (HSMs) or key-management servers to separate sen-
sitive cryptographic operations from more vulnerable parts of the
network. Access to such devices is given to protocol parties by the
means of Security APIs, e.g., the RSA PKCS#11 standard, IBM’s CCA
andtheTrustedPlatformModule(TPM)API,allofwhichprotectkeys
by providing an API that allows to address keys only indirectly.
This thesis has two parts. The first part deals with formal meth-
odsthatallowfortheidentificationofsecureconfigurationsinwhich
Security APIs improve the security of existing protocols, e.g., in sce-
narios where parties can be corrupted. A promising paradigm is to
regard the Security API as a participant in a protocol and then use
traditional protocol analysis techniques. But, in contrast to network
protocols,SecurityAPIsoftenrelyonthestateofaninternaldatabase.
When it comes to an analysis of an unbounded number of keys, this
is the reason why current tools for protocol analysis do not work
well. We make a case for the use of Multiset Rewriting (MSR) as the
back-end for verification and propose a new process calculus, which
is a variant of the applied pi calculus with constructs for manipula-
tion of a global state. We show that this language can be translated
to MSR rules while preserving all security properties expressible in a
dedicated first-orderlogic forsecurity properties. Thetranslation has
been implemented in a prototype tool which uses the tamarin prover
asaback-end.Weapplythetooltoseveralcasestudiesamongwhich
11
a simplified fragment of PKCS# , the Yubikey security token, and a
contract signing protocol.
The second part of this thesis aims at identifying security proper-
ties that (a) can be established independent of the protocol, (b) allow
tocatchflawsonthecryptographiclevel,and(c)facilitatetheanalysis
of protocols using the Security API. We adapt the more general ap-
proachtoAPIsecurityofKremeretal.toaframeworkthatallowsfor
composition in form of a universally composable key-management
functionality. The novelty, compared to other definitions, is that this
functionality is parametric in the operations the Security API allows,
whichisonlypossibleduetouniversalcomposability.ASecurityAPI
is secure if it implements correctly both key-management (according
to our functionality) and all operations that depend on keys (with re-
spect to the functionalities defining those operations). We present an
implementationwhichisdefinedwithrespecttoarbitraryfunctionali-
ties(fortheoperationsthatarenotconcernedwithkey-management),
and hence represents a general design pattern for Security APIs.
vii
RÉSUMÉ
Dans une infrastructure logicielle, les systèmes critiques ont souvent
besoin de garder des clés cryptographiques sur des Hardware Secu-
rity Modules (HSMs) ou des serveurs consacrés à la gestion de clés.
Ils ont pour but de séparer les opérations cryptographiques, très cri-
tiques,duresteduréseau,quiestplusvulnérable.L’accèsauxclésest
fourniautraversdesAPIsdesécurité,commeparexemplelestandard
PKCS#11 de RSA, CCA d’IBM, ou encore l’API du Trusted Platform
Module, qui ne permettent qu’un accès indirect aux clés.
Cettethèseestcomposéededeuxparties.Lapremièreintroduitdes
méthodes formelles qui ont pour but l’identification des configura-
tionsdanslesquelleslesAPIsdesécuritépeuventaméliorerleniveau
de sûreté des protocoles existants, par exemple en cas de compromis-
sion d’un participant. Un paradigme prometteur considère les APIs
de sécurité comme des participants d’un protocole afin d’étendre
l’emploi des méthodes traditionnelles d’analyse de protocole à ces
interfaces. À l’opposé des protocoles réseau, les APIs de sécurité uti-
lisent souvent une base de données interne. Ces outils traditionnels
d’analyse ne sont adaptés que pour le cas où le nombre des clés est
borné a priori.
Nous exposons également des arguments pour l’utilisation de la
réécriture de multi-ensembles MSR (Multiset Rewriting), lors de la vé-
rification. De plus, nous proposons un langage dérivant du pi-calcul
appliqué possédant des opérateurs qui permettent la manipulation
d’un état explicite. Ce langage se traduit en règles MSR en préser-
vant des propriétés de sécurité qui s’expriment dans une logique de
premier ordre. La traduction a été implémentée sous forme d’un pro-
totype produisant des règles spécifiquement adapté au prouveur ta-
marin. Plusieurs études de cas, dont un fragment de PKCS#11, le jeton
d’authentification Yubikey, et un protocole de signature de contrat
optimiste ont été effectuées.
Le deuxième partie de la présente thèse a pour but l’identification
des propriétés de sécurité qui a) peuvent être établies indépendam-
mentduprotocoleb)permettentdetrouverdesfaillesauniveaudela
cryptographie c) facilitent l’analyse des protocoles utilisant cette API
de sécurité.
Nous adoptons ici l’approche plus générale de Kremer et al. dans
un cadre qui permet la composition universelle, à travers une fonc-
tionnalité de gestion de clés. La nouveauté de ce genre de définition
est qu’elle dépend des opérations mises à disposition par l’API. Ceci
est seulement possible grâce à la composition universelle. Une API
de sécurité n’est sûre que si elle réalise correctement la gestion des
clés(selonlafonctionnalitéprésentéedanscetravail)etlesopérations
viii
utilisant les clés (selon les fonctionalités qui les définissent). Pour fi-
nir, nous présentons aussi une implémentation de gestion de clés dé-
finie par rapport à des opérations arbitraires utilisant des clés non
concernées par la gestion des clés. Cette réalisation représente ainsi
un modèle générique pour le design des APIs de sécurité.
ix