Metodología

Imagen de una bibliotecaDesde SECABA-Lab hemos desarrollado 2 herramientas para la evaluación de las bibliotecas universitarias y las redes de lectura pública españolas: SECABA-RANK Universitarias y SECABA-RANK Públicas. Nuestra intención es que dichas herramientas sirvan como punto al que acudir para obtener información sobre las bibliotecas y redes para cualquier persona interesada al respecto en general y para las personas gestoras de las mismas en particular. Nuestras herramientas podrán ser usadas en la toma de decisiones con vistas a la mejora de las bibliotecas y redes, y como punto de partida y base para futuras investigaciones.

La metodología que presentamos para medir la eficiencia nos parece válida y consistente. Pensamos que los indicadores de segundo nivel que calculamos tienen más resolución y capacidad informativa que los de primer nivel y por ello los incluimos en nuestros estudios de evaluación.

Como veremos, el indicador de la potencia de los sistemas nos permite elaborar un ranking de los objetos estudiados en función de la eficiencia que presentan. Igualmente este indicador nos permite conocer el estado en el que se encuentra una biblioteca y que admite 3 posibilidades: ser potente, sin potencia o dispotente.

La formulación de los sistemas nos permite de una forma muy sintética y simple tener una idea clara del funcionamiento y de los logros de un sistema, al poner en relación las entradas con las salidas. También, pensamos que nuestra metodología permite realizar con facilidad Bechmarking (evaluaciones comparativas) para localizar las mejores prácticas y que estos sistemas sirvan como modelo para otros.

Para conocer la base de nuestra metodología, hemos organizado los siguientes puntos (expandibles) con una sección especial para los indicadores y los datos:


Nuestra metodología

Nuestro estudio parte de unos datos en tanto que mediciones de la realidad y que han sido procesados para obtener información por medio del cálculo de una serie de indicadores. La idea es que esta información sea interpretada y puedan sacarse conclusiones al respecto de las bibliotecas y redes. En SECABA-RANK Universitarias los datos los hemos tomado de Rebiun, concretamente de su página de Estadísticas, y en SECABA-RANK Públicas de la web Bibliotecas Públicas Españolas en Cifras del Ministerio de Educación, Cultura y Deporte del Gobierno de España. El estudio para ambas herramientas se llevó a cabo en julio de 2016, por lo que los datos utilizados han sido los disponibles en las fuentes a dicha fecha. Invitamos desde aquí a ponerse en contacto con SECABA-Lab para cualquier duda, comentario, revisión y retroalimentación al respecto.

Cabe que especificar que SECABA-Rank Universitarias abarca los años 2007, 2011, 2012, 2013, 2014 y 2015, mientras que SECABA-Rank Públicas abarca los años 2007, 2010, 2011, 2012, 2013 y 2014. Nuestra intención con ello es ofrecer la posibilidad de analizar si las bibliotecas y redes se han visto afectadas en el periodo de tiempo al que se ajusta el calificativo de crisis.

En esencia, podemos decir que la metodología que seguimos se basa en una evaluación cuantitativa, con base empírica y desde un enfoque sistémico.


Enfoque sistémico: la biblioteca como sistema

Lo que queremos destacar por encima de todo sobre nuestra metodología es el enfoque de análisis que le damos a nuestra evaluación, que es la teoría de sistemas. Concebimos a las bibliotecas y redes como sistemas:

La biblioteca o red es así un sistema que tiene una serie de entradas (generalmente medible en euros), que afectan a la entidad (compuesta por el personal, la colección, el equipamiento, etc.), produciendo una serie de salidas (que mediremos como circulación). Además de las salidas, las bibliotecas producen beneficios, más difíciles de medir, pues no son fácilmente cuantificables (a diferencia de las salidas). Por beneficio podríamos entender el mayor capital humano que consiguen las personas, ciudades y países que frecuentan y hacen uso de las bibliotecas y un aumento del capital cultural. Es decir, la mayor capacidad y competencia a la hora de resolver problemas y tomar decisiones. Igualmente, tendrán más empatía y prácticas de socialización. Dentro de este beneficio también hay que considerar que la biblioteca produce capital social.

Un análisis tal permitirá conocer qué nuevas entradas deberíamos suministrarle al sistema para que se oriente en la dirección que nos interesa. Es lo que denominamos retroalimentación: momento en el que el sistema piensa sobre sí mismo para su mejora y justo el fin de la acción de evaluar.

Por último, el sistema biblioteca está dentro de un entorno, al que sirve, del cual recibe las entradas y que es el que financia a la biblioteca por los beneficios que de ella recibe o desea recibir.

Lo importante no sólo son las partes que tendría la biblioteca como sistema, sino la relación que existe y podría existir entre ellas. Esta relación, que se vislumbra con las flechas en el gráfico, posibilita un análisis de relaciones entre las partes y también que nos preguntemos, por ejemplo, en qué grado las entradas o la entidad configuran a las salidas y a los beneficios para el entorno. Si relacionásemos las entradas con las salidas, descubriríamos mucho sobre el procesamiento que hace la entidad de las entradas, y con ello conoceríamos las bibliotecas o sistemas que mejor las procesan, que es lo que más nos interesa en relación a la eficiencia, aspecto central u objetivo base de nuestro estudio.


Nuestro objetivos

Los objetivos que nos marcamos antes de empezar con el desarrollo de nuestras herramientas pueden quedar resumidos en los tres siguientes:

  1. Desarrollar una metodología que nos permita medir y conocer la eficiencia de bibliotecas con indicadores de segundo nivel, pues conocer la eficiencia es conocer qué sistemas son los que mejor procesan las entradas y los que pueden servir de ejemplo a los que no obtienen lo esperado.
  2. Aplicar esa metodología a las bibliotecas universitarias españolas y a las redes de lectura pública españolas para conocer cuáles son las más eficientes y encontrar modelos de buenas prácticas para la mejora constante de las bibliotecas y redes (Benchmarking).
  3. Ser punto al que acudir para obtener información sobre las Redes de lectura Pública y Bibliotecas Universitarias tanto para personas interesadas, como para los gestores e implicados en la toma de decisiones sobre las mismas, y punto del que partir para futuras investigaciones.

Indicadores

Los indicadores de primer nivel que utilizamos son los siguientes:


Euros (presupuesto) per cápita

Tanto para SECABA-Rank Universitarias y SECABA-Rank Públicas hemos definido el presupuesto como la suma de los gastos para el personal y los gastos en adquisiciones o recursos de información (ver sección de datos en esta misma página de la metodología). El presupuesto per cápita sería el resultado de dividir la suma de esos gastos entre la población, que en SECABA-Rank Universitarias sería la suma de estudiantes de grado y posgrado, y los docentes a tiempo completo y parcial; y para SECABA-Rank Públicas la población de las Comunidades Autónomas o Provincias según el tipo de análisis. La fórmula quedaría así:

Presupuesto per cápita = Gastos / Población


Circulación per cápita

Para SECABA-Rank Universitarias hemos contemplado en la circulación los préstamos, que incluirían los préstamos domiciliarios y los documentos descargados de los recursos electrónicos (datos Counter), y para SECABA-Rank Públicas los préstamos (ver sección de datos en esta misma página de la metodología). La población sería la misma que en el indicador anterior. La fórmula quedaría así:

Circulación per cápita = Préstamos / Población


En base a los indicadores de primer nivel anteriores, en SECABA-RANK vamos a calcular los siguientes indicadores de segundo nivel:


Potencia del sistema

El indicador de la Potencia del Sistema es un indicador que mide la eficiencia, pues pone en relación las entradas de los sistemas con las salidas. La eficiencia es la capacidad de conseguir las máximas salidas, con el mínimo de recursos (entradas) posibles que lo hagan viable. De lo que se trata es de poder minimizar las entradas y maximizar las salidas, de optimizar. Este nuevo indicador de segundo nivel, que presentamos como la base fundamental para elaborar los rankings de nuestras herramientas, se construye partiendo de dos indicadores de primer nivel: uno de entrada (el presupuesto per cápita, que derivará en la Potencia de Entrada) y otro de salida (la circulación per cápita, que derivará en la Potencia de Salida).

En cuanto a la aritmética del indicador de la Potencia del Sistema, necesitamos conocer primero lo que llamamos Potencia de Entrada y Potencia de Salida, pues su fórmula es la siguiente:

Potencia del Sistema = Potencia de Salida / Potencia de Entrada

Vamos a explicar cómo calcular la Potencia de Entrada y de Salida para después completar el cálculo de la Potencia del Sistema:

  • Potencia de Entrada: para calcular la potencia de entrada de un sistema biblioteca o red hay que dividir el presupuesto per cápita de cada biblioteca o red entre el presupuesto per cápita del objeto que tomemos como base. Al respecto, como base se puede tomar cualquier biblioteca, pero nosotros tomaremos como sistema base lo que vamos a denominar como el Total Rebiun para SECABA-Rank Universitarias y el Total Redes para SECABA-Rank Públicas. Para obtener este valor hay que hacer los mismos cálculos que para una biblioteca individual, pero esta vez tomando todas las bibliotecas que componen en cada caso SECABA-Rank Universitarias y SECABA-Rank Públicas. Es decir, que nuestra base para la potencia de entrada será el presupuesto per cápita del total o suma de todas las bibliotecas universitarias contempladas en SECABA-Rank Universitarias, y lo mismo en SECABA-Rank Públicas. La fórmula sería la siguiente:

Potencia de Entrada = Presupuesto per cápita de cada Biblioteca o Red / Presupuesto per cápita de la Base

  • Potencia de Salida: Para su cálculo se procede de la misma forma que para la Potencia de Entrada pero seleccionando la circulación per cápita en vez del presupuesto. La base sería la circulación per cápita del total de bibliotecas o redes, exactamente igual que para la Potencia de Entrada. La Fórmula quedaría así:

Potencia de Salida = Circulación per cápita de cada Biblioteca o Red / Circulación per cápita de la Base

Una vez conocida la Potencia de Entrada y la de Salida, podemos calcular la Potencia del Sistema, que resultará de dividir la Potencia de Salida entre la Potencia de Entrada. La fórmula quedaría así:

Potencia del Sistema = Potencia de Salida / Potencia de Entrada

Al calcular la Potencia del Sistema podemos clasificar los resultados en tres posibilidades tal y como presentamos en la siguiente tabla (donde P(Sis) es Potencia del Sistema, P(Sal) la Potencia de Salida y P(E) la de Entrada):

Estados posibles del Sistema (Biblioteca o Red)

Valor de P(Sis)EstadoDescripción del SistemaFormulación
P(Sis) > 1 Potencia Produce más salidas que entradas se le suministran P(Sal) > P(E)
P(Sis) = 1 Sin potencia Produce las mismas salidas que entradas P(Sal) = P(E)
P(Sis) < 1 Dispotencia Produce menos salidas que entradas se le suministran P(Sal) < P(E)


Podemos comentar la tabla como sigue:

  • Cuando la Potencia del Sistema es mayor que 1, el sistema que estamos estudiando produce más salidas que las entradas que se le suministran, y es por tanto un sistema con eficiencia. De estos sistemas diremos que su estado es de Potencia.
  • Cuando la Potencia del Sistema es igual a 1, el sistema produce las mismas salidas que entradas se le suministran, y diremos de ellos que su estado es de Sin potencia.
  • Cuando la Potencia del Sistema es menor que 1, el sistema produce menos salidas que las entradas que se le suministran, y son sistemas ineficientes de los que diremos que su estado es de Dispotencia.

Una biblioteca o Red en tanto que sistema necesariamente se tiene que encontrar en uno de estos tres estados.

Entre las características a destacar del indicador de la Potencia del Sistema podemos resaltar que señala una normalidad, cosa que no ocurre en los indicadores de primer nivel. Esta normalidad se da cuando la Potencia del Sistema toma el valor 1, pues entonces esa biblioteca produce las mismas salidas que entradas se le suministra. Por encima estarán las bibliotecas con potencia, y por debajo las que son dispotentes. Además, este indicador nos permite crear un ranking de los objetos estudiados, en función de la eficiencia que muestran y su estado.

Como hemos visto, la Potencia del Sistema supone una formulación que vamos a constatar en lo que podría ser considerado otro indicador de segundo nivel, si bien en realidad tiene mucho que ver con el de la Potencia del Sistema: se trata de la Formulación del Sistema.


Formulación del sistema

Para formular el sistema sólo tenemos que poner en relación las entradas con las salidas. Tomaremos el sistema como una caja negra, es decir, sin prestar atención a la entidad. La Formulación del Sistema la representaremos diciendo que el objeto que estamos estudiando con “x” entradas produce “y” salidas. La representación sería la siguiente:

Formulación del Sistema = Potencia de Entrada → Potencia de Salida

Imaginemos que tenemos 3 sistemas con la siguiente Formulación de los Sistemas:

Formulación de 3 sistemas como ejemplo

Objetos de estudioFormulación del Sistema
Sistema A 2,30 → 3,00
Sistema B 1,15 → 1,15
Sistema C 2,30 → 1,50


Podemos comentar la tabla de la siguiente manera:

  • En el caso del Sistema A lo que estamos diciendo es que con 2,30 de entradas obtiene 3,00 de salida. Sería por tanto un objeto eficiente, potente, que produce más salidas de las entradas que recibe, pues su Potencia del Sistema sería de 1,30 (resultado de dividir la Potencia de Salida entre la de Entrada).
  • El Sistema B consigue las mismas salidas que entradas se le suministran (1,15). No da más de lo que se le da, pero tampoco da menos de lo que se le suministró. Este objeto es un ejemplo de lo que antes hemos llamado sin potencia, pues produce lo mismo que entradas ha recibido y su Potencia del Sistema sería igual a 1.
  • Al Sistema C se le suministran 2,30 de entradas, pero las salidas que consiguen son 1,50, por lo que es un Sistema dispotente. Es decir, produce menos salidas que las entradas que se le dan y su Potencia del Sistema sería de 0,65.

La Formulación del Sistema no sólo tiene interés por la información tan sintética que nos da de los mismos, sino que también es interesante por las comparaciones y relaciones que permite. Si nos fijamos, mientras que los Sistemas A y C de nuestro ejemplo tienen las mismas entradas, el A consigue 3,00 de salida y el C 1,50. Esto convertiría al Sistema A en modelo de buenas prácticas para el C. Así, se hace evidente que, siguiendo la teoría de sistemas y la metodología que aplicamos, si un sistema como A consigue más salidas que entradas, o el Sistema C produce menos salidas que las entradas que se le suministran, en ambos casos esto se explica por la entidad (el personal, la colección, el equipamiento, etc.). La entidad de A lleva a potenciar la circulación, las salidas; mientras que la entidad del objeto C es un freno, un obstáculo, para la circulación. Además, dado que se trata de fórmulas podemos dar valores a las potencias para resolver qué sucedería con las incógnitas que nos interesen, lo que nos permitiría valorar un resultado, y estimarlo o predecirlo.


Esfuerzo en Presupuesto

El indicador de Esfuerzo en Presupuesto pone en relación el porcentaje de Presupuesto de cada sistema (Biblioteca o Red) con su porcentaje de población. Esos porcentajes de cada sistema se calculan respecto del Total Redes en el caso de SECABA-Rank Públicas y del Total Rebiun en el caso de SECABA-Rank Universitarias. El Esfuerzo en Presupuesto resulta de la resta entre el porcentaje de Presupuesto menos el Porcentaje de Población respectivamente. La fórmula del Esfuerzo en Presupuesto quedaría así:

Esfuerzo en Presupuesto = Porcentaje de Presupuesto – Porcentaje de Población

Podemos clasificar los resultados en 3 sentidos:

  • Si el resultado es negativo o menor que 0, quiere decir que el sistema está por debajo de lo esperado.
  • Si es positivo y mayor que 0, el sistema está por encima de lo esperado.
  • Si el resultado es 0, los porcentajes serían iguales y la situación quedaría dentro de lo esperado.

Imaginemos un sistema cuyo porcentaje de población es el 10%. El indicador de Esfuerzo plantea que si su porcentaje en población es del 10%, sería lo esperado que su porcentaje de presupuesto fuese también del 10%. Así, el resultado del Esfuerzo en Presupuesto sería 0. Si el porcentaje en Presupuesto supusiese menos del 10%, el resultado del Esfuerzo sería negativo, y nos estaría diciendo que el Sistema imaginado no está haciendo lo esperado en cuanto a inversión, mientras que si el porcentaje en presupuesto fuese mayor del 10%, el Esfuerzo resultaría mayor que 0, con una situación positiva en relación a la inversión para el sistema. Lo mismo sucedería con el Esfuerzo en Circulación.


Esfuerzo en Circulación

El Esfuerzo en Circulación se calcula de manera similar al anterior pero poniendo en relación el porcentaje en circulación con el porcentaje de población. Nos daría así información de lo que los sistemas están haciendo y consiguiendo en relación a las salidas. La fórmula del Esfuerzo en Circulación así:

Esfuerzo en Circulación = Porcentaje de Circulación – Porcentaje de Población


Datos

Dado que nuestro estudio parte de unos datos en tanto que mediciones de la realidad y son la base de la información y las conclusiones que se puedan alcanzar, vamos a explicar de dónde los hemos tomado. Puesto que los indicadores de segundo nivel son calculados utilizando los de primer nivel, con explicar los datos que se precisan para estos últimos será suficiente. Lo haremos por herramienta:


Datos en SECABA-RANK Universitarias

Como ya hemos dicho, han sido tomados de Rebiun. La explicación y el contenido los encontramos en la página de Documento de ayuda y exportación de datos de Rebiun. Las hojas de cálculo para nuestro estudio las descargamos con acceso público en la última página mencionada durante el mes de julio de 2016. En concreto, la hoja de cálculo para el año 2007 la descargamos el día 30 de julio de 2016 (se puede descargar en el enlace del año); las hojas de cálculo para los años 2011, 2012, 2013 y 2014 las descargamos el día 10 de julio de 2016 (igualmente se pueden descargar en el enlace de los años); y la de 2015 la descargamos por primera vez el 11 de julio de 2016 (enlace a la hoja) para ser nuevamente descargada tras la actualización y revisión de datos el 20 de noviembre de 2016 (enlace a la hoja más reciente). Esta información es importante porque nuestro estudio parte de estos datos. Si se percibe algún error en los mismos o en las hojas de cálculo en general de las fuentes de datos, rogamos se pongan en contacto con nosotros y especialmente con Rebiun para subsanar los errores y que actualicemos a la mayor brevedad nuestra herramienta de SECABA-RANK Universitarias. Igualmente, cabe señalar que iremos actualizando nuestras herramientas si se producen o percibimos cambios en los datos. Avisaremos en nuestro Blog según se produzcan actualizaciones en nuestras herramientas.

  • Euros o Presupuesto per cápita: resulta de la suma del coste total del personal más los gastos en recursos de información, y todo ello dividido entre la población.
    • El coste del personal consta de lo siguiente según los años:
      • 2007: suma de Coste de “Bibliotecarios”+”Auxiliares de biblioteca”+”Estudiantes becarios”+ “Personal especializado”+”Personal administrativo” (COSTEBIBPROFES + COSTEAUXBIB + COSTEBECAESTUD + COSTEPERSESP)
      • 2011, 2012, 2013, 2014 y 2015: suma de Coste de “Bibliotecarios”+”Auxiliares de biblioteca”+”Estudiantes becarios”+ “Personal especializado”+”Personal administrativo” (COSTEBIBPROFES + COSTEAUXBIB + COSTEBECAESTUD + COSTEPERSESP + COSTEPERSADMIN).
    • Los gastos en recursos de información por año quedarían así:
      • 2007: suma de Gasto en compra de monografías + Gasto en suscripción de publicaciones periódicas + Gasto dedicado a la compra de material no librario + Gasto dedicado a bases de datos de pago o con licencia (GASTOTOTMONOG + GASTOTOTPUBPER + GASTOMATNOLIB + GASTOBBDDPAGO).
      • 2011, 2012, 2013, 2014 y 2015: sumatorio del gasto dedicado a la compra de “monografías en papel”+ “monografías audiovisuales”+ “monografías electrónicas de pago o con licencia”+”suscripción publicaciones periódicas en papel”+”publicaciones periódicas electrónicas de pago o con licencia”+ “compra material no librario”+”gasto dedicado a bases de datos de pago o con licencia (GASTOMONPAPEL + GASTOMONAUDIO + GASTOMONELECPAGO + GASTOPPPAPEL + GASTOPPELECPAGO + GASTOMATNOLIB + GASTOBBDDPAGO).
  • Circulación per cápita: para el año 2007 son los préstamos domiciliarios. Para los años 2011, 2012, 2013, 2014 y 2015 resulta de la suma de los préstamos domiciliarios más los Documentos descargados de los recursos electrónicos del apartado “datos counter”.
    • Préstamos domiciliarios (NPRESTDOMIC) para todos los años: se contabilizaran solo los préstamos y renovaciones de material bibliográfico a usuarios de la biblioteca. No deben contabilizarse los préstamos de otros materiales o equipamientos que se hacen a través del SIGB y que no son material bibliográfico, así como tampoco aquellos préstamos que algunas bibliotecas realizan para gestión interna o servicios técnicos de la biblioteca .
    • Datos Counter: documentos descargados de los recursos electrónicos del apartado “datos counter” (NDOCDESCARGPAGOCOUNT).
  • Población para todos los años: suma de Estudiantes de grado + Estudiantes de posgrado + Estudiantes de títulos propios + Suma de Docentes con dedicación completa + Docentes con dedicación parcial (NESTGRADO + NESTPOSGRADO + NESTIPROP + NPDICOMPLETA + NPDIPARCIAL). Pese a que en 2007 los grados no estaban del todo implantados aún, los campos para los datos reciben también los nombres anteriores).

Datos en SECABA-RANK Públicas

Los datos los hemos tomado de la web Bibliotecas Públicas Españolas en Cifras del Ministerio de Educación, Cultura y Deporte del Gobierno de España. La descarga de los datos se llevó a cabo durante el mes de julio de 2016. En concreto, las hojas para los años 2010, 2012, 2013 y 2014 las descargamos el día 20 de julio de 2016 (pueden consultarse en los enlaces para cada año); la del año 2011 fue descargada el día 18 de julio de 2016 (disponible también en el enlace del año); y los datos para 2007 se tomaron de la sección de Publicaciones de la web de Bibliotecas Públicas Españolas en Cifras. Además de estos informes, requerimos los datos sobre los gastos en adquisiciones para cada año, disponibles en la sección de Anexos (apartado de gastos) y para el análisis provincial las hojas por provincias (a estas se accede desde la página web de cada informe anual en la sección de anexos y pinchando en cada Comunidad Autónoma). Si se percibe algún error en las fuentes de datos o en las hojas de cálculo en general, rogamos se pongan en contacto con nosotros y especialmente con el Ministerio de Educación, Cultura y Deporte del Gobierno de España. para subsanar los errores y que actualicemos a la mayor brevedad el SECABA-RANK Públicas. Igualmente, cabe señalar que iremos actualizando nuestras herramientas si se producen o percibimos cambios en los datos.

Estos datos y estadística están realizadas por las Comunidades Autónomas y el Ministerio de Cultura de acuerdo a la norma ISO 2789 Information and documentation: international library statistics. En dicha norma se puede consultar la definición extendida de cada dato.

  • Euros o presupuesto per cápita: para todos los años resulta de la suma de los gastos de personal más los gastos en adquisiciones, dentro de los gastos corrientes.
  • Circulación per cápita: para todos los años resulta del total de préstamos a usuarios, que es la suma de préstamos de libros, publicaciones seriadas, documentos sonoros, documentos audiovisuales, documentos electrónicos y otros.
  • Población: número de habitantes de cada Comunidad Autónoma y/o Provincia.

Desde SECABA-Lab estamos trabajando en mejorar y completar nuestra metodología con el desarrollo de nuevos indicadores. Si tienes alguna duda o quieres enviarnos cualquier comentario, ponte en contacto con el equipo.

No se admiten más comentarios