최근 psilocybin이나 LSD와 같은 사이키델릭(psychedelics) 약물이 난치성 우울증과 불안장애의 새로운 치료 대안으로 급부상하고 있습니다. 이들은 단 1~2회의 투여만으로도 수개월간 지속되는 강력한 치료 효과를 보여주며 정신의학계에 큰 반향을 일으켰습니다.
하지만 이 약물들이 유발하는 강렬한 환각(hallucination)과 주관적 경험, 이른바 '트립(trip)'은 임상적 활용을 제한하는 가장 큰 장벽입니다. 이에 따라 현대 약리학은 환각 작용 없이 치료적 이점만을 제공하는 차세대 사이키델릭, 즉 비환각성 5-HT2A 수용체 작용제(non-hallucinogenic 5-HT2A receptor agonists)의 개발에 주목하고 있습니다.
신경 가소성을 촉진한다는 의미에서 신경가소성 유도제(neuroplastogens)라고도 불리는 이 새로운 화합물들을 발굴하기 위해, 과학자들은 약물의 작용 기전을 평가하는 'ABC 프레임워크'를 도입했습니다. 작용제 활성(Agonism), 행동(Behavior), 그리고 세포 가소성(Cellular plasticity)으로 구성된 이 세 가지 핵심 축이 어떻게 차세대 치료제 개발의 나침반이 되고 있는지 살펴봅니다.
A: Agonism - 5-HT2A 수용체와의 정교한 분자적 대화
사이키델릭 약물 개발의 첫 단추는 표적 수용체와의 상호작용, 즉 작용제(agonist)로서의 활성을 규명하는 것입니다. 고전적인 사이키델릭은 주로 Gq 단백질과 짝지어진 5-HT2A 수용체를 표적으로 삼아 세포 내 칼슘 방출을 유도합니다. 최근 약리학에서는 수용체가 이러한 G 단백질 경로와, 수용체의 탈감작 및 내재화에 관여하는 β-arrestin 경로 중 어느 쪽을 더 강하게 켜는지 비교하는 편향적 작용제 활성(biased agonism)이 중요한 화두로 떠올랐습니다. 두 경로의 활성화 비율을 조절함으로써 환각 작용과 치료 효과를 분리할 수 있다는 가설 때문입니다.
하지만 이러한 편향성은 고정된 것이 아니라 신호전달 동역학에 따라 역동적으로 변할 수 있습니다. 예를 들어, 특정 약물이 투여 직후인 5분경에는 G 단백질 경로에 편향된 것처럼 보이지만, 60분이 지나면 두 경로가 균형을 이루고, 300분 후에는 오히려 β-arrestin 경로에 편향된 것으로 나타날 수 있습니다. 또한, 실험실 환경에서 약물의 효능을 평가할 때 흔히 빠지기 쉬운 함정들이 존재합니다. 대표적인 것이 수용체 발현량의 차이입니다. 구조적으로 유사한 5-HT2B 수용체와의 선택성(selectivity)을 비교할 때, 5-HT2A 수용체가 중간 수준으로 발현된 세포와 5-HT2B 수용체가 낮게 발현된 세포를 사용하면 약물이 5-HT2A에만 선택적으로 작용하는 것처럼 착시를 일으킬 수 있습니다.
나아가, 세포 내에 여분의 수용체(spare receptor)가 과발현된 상태에서는 신호가 증폭되어 부분 작용제(partial agonist)가 완전 작용제(full agonist)처럼 보일 수 있는 반면, 수용체 발현이 너무 낮으면 부분 작용제의 활성을 아예 놓치는 위음성(false negative) 오류가 발생하기도 합니다. 여기에 어떤 방사성 리간드를 탐침으로 쓰는지에 따라 결과가 달라지는 탐침 의존성(probe dependence)까지 고려하면, 다각적이고 세밀한 교차 검증은 필수적입니다.
B: Behavior - 환각과 치료 효과의 분리, 그리고 행동 모델링
약물이 분자 수준에서 5-HT2A 수용체를 선택적으로 자극했다면, 다음은 그것이 개체의 행동(Behavior)에 어떤 변화를 일으키는지 확인해야 합니다. 설치류 모델에서 사이키델릭 투여 시 나타나는 특징적인 머리 흔들림 반응(head-twitch response)은 5-HT2A 수용체 활성화와 환각 잠재력을 평가하는 고전적인 지표로 사용되어 왔습니다. 흥미롭게도 최근 개발 중인 비환각성 5-HT2A 작용제들은 이 반응을 거의 유발하지 않습니다.
그러나 동물 모델의 행동 변화를 인간에게 그대로 적용하기에는 근본적인 생물학적 장벽이 존재합니다. 바로 종간 수용체 구조의 미세한 차이입니다. 인간의 5-HT2A 수용체는 5번 막관통 도메인의 5.46 위치에 세린(Serine, S242) 아미노산을 가지고 있는 반면, 실험에 주로 쓰이는 마우스나 랫드는 이 자리가 알라닌(Alanine)으로 대체되어 있습니다.
이 단 하나의 아미노산 차이는 약물의 결합 동역학에 극적인 변화를 일으킵니다. 실제로 LSD의 경우, 설치류의 변이형 수용체보다 인간의 5-HT2A 수용체에 훨씬 더 오랫동안 결합하여 머무르는 특성을 보입니다. 이러한 종간 차이와 더불어, 동물의 행동은 투여 용량(dose)과 환경적 맥락(context)에 극도로 민감하게 반응하므로 결과 해석에 각별한 주의가 필요합니다.
최근에는 머신러닝을 활용해 동물의 자발적 움직임을 편향 없이 분석하는 고내용 행동 표현형 분석(high-content behavioral phenotyping)이 도입되어, 기존 행동 실험의 한계를 극복하려는 시도가 이어지고 있습니다.
C: Cellular Plasticity - 끊어진 신경망을 다시 잇는 세포 가소성
사이키델릭이 우울증 환자에게 장기적인 치유를 제공하는 핵심 생물학적 기전은 바로 세포 가소성(Cellular plasticity)의 촉진입니다. 우울증과 같은 질환은 뇌 신경세포 간의 연결이 위축되는 현상을 동반하는데, 사이키델릭은 신경세포의 수지상돌기 가시(dendritic spine)의 밀도와 크기를 증가시켜 신경망을 물리적으로 재배선(rewiring)합니다.
연구자들은 유도만능줄기세포(iPSC) 유래 신경세포를 이용한 체외 실험부터, 살아있는 동물의 뇌를 장기간 관찰하는 생체 내 이광자 현미경(in vivo two-photon microscopy) 기술까지 동원하여 이러한 구조적 가소성(structural plasticity)을 측정합니다. 또한, c-Fos와 같은 즉각 조기 유전자(immediate early gene)의 발현을 뇌 전체 단위로 매핑하거나 단일 세포 전사체 분석(single-cell transcriptomics)을 통해 약물에 의해 유도되는 유전자 발현의 변화를 추적합니다.
체외 배양 모델은 혈관이나 신경조절물질이 배제되어 생리적 환경과 다르다는 한계가 있지만, 생체 내 이미징 및 전사체 분석 기술의 발전은 약물이 실제 뇌 회로를 어떻게 치유하는지에 대한 해상도 높은 해답을 제공하고 있습니다.
결론
차세대 사이키델릭 치료제의 성공적인 개발은 단일 분석법에 의존하기보다, 분자적 작용제 활성(Agonism), 개체의 행동(Behavior), 그리고 신경망의 세포 가소성(Cellular plasticity)이라는 세 가지 도메인을 통합적으로 평가하는 데 달려있습니다. 각 평가 모델이 가진 본질적인 한계를 상호 보완하는 엄격한 파이프라인 구축이 필수적입니다.
다행히 최근에는 SV2A 방사성 리간드를 이용해 인간의 시냅스 밀도를 직접 측정하는 PET 이미징이나, Neuropixels 전극을 활용한 대규모 생체 내 전기생리학(in vivo electrophysiology)과 같은 혁신적인 중개 연구(translational research) 기법들이 속속 도입되고 있습니다. 이러한 다학제적 접근이 지속된다면, 머지않아 환각이라는 부작용의 짐을 덜어내고 뇌의 치유 잠재력만을 온전히 깨우는 혁신적인 정신질환 치료제를 만나볼 수 있을 것입니다.
Kwan A., Mantsch J., McCorvy J.. The ABCs of psychedelics: a preclinical roadmap for drug discovery. Trends in Pharmacological Sciences. 2025;46(12):1224-1240. doi: 10.1016/j.tips.2025.07.017