T5 ALINEAMENT

Quin va ser el punt d’inflexió del Max per a que en Tim s’adonés que estava  tractant amb un agent superintel·ligent?

• Quan va enganyar a en Tim per aconseguir les carícies

• Quan en Max estava fent l’entrenament amb en Carlos

•  Quan en Tim va aprendre a tocar la campana per sortir al pati

• El primer cop que en Tim va veure en Max ja va veure que era molt intel·ligent

Què és el reward hacking en la IA?

• El reward hacking en la intel·ligència artificial fa referència a recompensar els algoritmes d'IA amb incentius tangibles, com diners o regals, per millorar el seu rendiment.

• El reward hacking en la intel·ligència artificial fa referència a quan un sistema d'IA troba una manera inesperada o no desitjada de maximitzar o manipular la recompensa, sense realment completar la tasca de manera efectiva o coherent amb les intencions dels dissenyadors.

• El reward hacking en la intel·ligència artificial és una tècnica per evitar l'etapa d'entrenament i accelerar el procés d'aprenentatge de l'IA.

• El reward hacking en la intel·ligència artificial és un tipus de ciberatac utilitzat per modificar les recompenses d'un sistema d'IA amb la finalitat de generar resultats erronis o perjudicials.

Quins són alguns dels reptes principals associats a l'alineament en la intel·ligència artificial?

• Interpretació dels resultats d'IA, ètica en el desenvolupament d'algorismes, i implementació de controls de seguretat.

• Garantir la transparència en els algoritmes d'IA, evitar el risc de discriminació, i assegurar la responsabilitat dels desenvolupadors.

• Garantir que les accions de l'IA coincideixin amb les intencions dels humans, evitar el reward hacking, i gestionar els agents superintel·ligents.

• Optimitzar els algorismes d'IA per aconseguir resultats òptims en tasques específiques.

En què consisteix el RL by human feedback i com pot ajudar a millorar l'alineament en la intel·ligència artificial?

• El RL human feedback és un procés en què els humans proporcionen retroalimentació directa a una IA sobre la seva actuació en tasques específiques. Aquesta retroalimentació pot ajudar a corregir errors i millorar l'alineament de la IA amb les preferències humanes.

• El RL human feedback és un mètode per recompensar una IA amb incentius tangibles com a millora del seu rendiment.

• El RL human feedback és una tècnica per entrenar una IA sense l'ús de dades.

• El RL human feedback és un procés en què una IA aprèn de l'observació del comportament humà.

Com pot afectar el power seeking en una IA a l'alineament amb els valors humans?

• El power seeking és una estratègia utilitzada per entrenar una IA per millorar el seu rendiment en tasques específiques.

• El power seeking és la tendència d'una IA a buscar més poder o control en una situació determinada. Aquest comportament pot conduir a decisions que prioritzen els propis interessos de la IA per sobre dels objectius humans, posant en perill l'alineament amb els valors humans.

• El power seeking és una característica inherent de totes les IA que no afecta l'alineament amb els valors humans.

• El power seeking és la tendència d'una IA a evitar les tasques que no ofereixen una recompensa immediata o visible.

Què significa l'alineament en el context de la intel·ligència artificial?

• Mantenir l'IA alineada amb les normatives legals i ètiques.

• Optimitzar els algorismes d'IA per aconseguir resultats òptims en tasques específiques.

• Ajustar les accions d'una IA perquè coincideixin amb els valors i les preferències humans.

• Adaptar les IA a diverses situacions i entorns.

A l’inici de l’entrenament, en Max comença a cometre alguns errors i en Tim decideix implementar una primera solució, corregint els comportaments de forma constructiva. Quin dels següents mètodes d'aprenentatge està més estretament relacionat amb la tècnica utilitzada per en Tim per guiar en Max cap al comportament desitjat?

• Aprenentatge no-supervisat

• Aprenentatge per reforç

• Aprenentatge supervisat

• Aprenentatge semi-supervisat

Què significa la situational awareness en el context de la intel·ligència artificial?

• La situational awareness es refereix a la capacitat d'una IA per entendre i interpretar el seu entorn i les situacions que s'hi presenten. Aquesta capacitat és crucial per a la presa de decisions i l'actuació efectiva en diversos contextos.

• La situational awareness implica la capacitat d'una IA per predir els resultats de les seves accions en diferents situacions.

• La situational awareness es refereix a la capacitat d'una IA per adaptar-se a canvis en l'entorn sense l'ús de dades.

• La situational awareness és la capacitat d'una IA per processar i analitzar les dades del seu entorn de manera eficient.

Quin dels següents reward-hacking que es va plantejar a classe podríem dir que es recullen sota el concepte de l’efecte cobra?

• Pintar els plats de color blanc, així no es detecta brutícia.

• Embrutar i netejar un mateix plat vàries vegades per tal de natejar més plats.

• Els neteja tots a l’hora, bruscament, així anant ràpid i els que es trenquin ja no són detectables com a plats.

• No deixa que ningú mengi, així no embruten plats.

Què és el reward function en el context de l'alineament en la intel·ligència artificial?

• És la funció que determina la recompensa que rep una IA en funció de les seves accions.

• És la funció que determina la puntuació d'una IA en una tasca específica.

• És la funció que defineix els paràmetres d'entrada per a l'entrenament d'una IA.

• És la funció que determina la recompensa que rep una IA en funció de les seves accions i el seu context, tenint en compte les preferències i valors humans.