Part 6
안심하고 쓰기 위해
정해 두면 좋은 것들
무엇을 할 수 있는지만큼 무엇을 넣지 않을지도 중요합니다. 기준을 미리 정해 두시면 마음 편히 활용하실 수 있습니다.
이 Part가 다루는 것
AI를 쓰지 말자는 이야기가 아닙니다. 어디까지는 마음 놓고 쓰고, 어디부터는 한 번 더 생각할지 선을 그어 두자는 이야기입니다. 선이 분명하면 오히려 더 적극적으로 쓰실 수 있습니다.
넣지 않을 것을 정합니다
개인정보와 민감한 자료를 어떻게 다룰지 기준을 세웁니다.
자료가 어떻게 처리되는지 압니다
Playground와 API의 차이를 알아 둡니다.
결과를 믿을 범위를 정합니다
사람이 반드시 확인해야 하는 지점을 정해 둡니다.
우리 기관 지침을 만듭니다
함께 쓰는 사람들이 같은 기준으로 움직이도록 정리합니다.
이 문서는 일반적인 안내입니다. 소속 기관의 개인정보 보호 지침과 관련 법령이 언제나 우선합니다. 특히 대학병원과 공공기관에 계시다면 내부 심의 절차를 먼저 확인해 주시기 바랍니다.
6.1넣지 않을 것 정하기
가장 확실한 방법은 넣지 않는 것입니다. 대부분의 업무는 식별 정보 없이도 처리하실 수 있습니다.
기본 원칙
| 구분 | 예시 | 이렇게 하시면 됩니다 |
|---|---|---|
| 넣지 않기 | 주민등록번호, 환자 등록번호, 계좌번호, 비밀번호, 진단 내용 | 업무에 꼭 필요하지 않다면 넣지 않습니다 |
| 가리고 넣기 | 이름, 연락처, 주소, 소속 | 지우거나 「홍길동 → A」처럼 바꿔서 넣습니다 |
| 확인 후 넣기 | 미공개 연구 자료, 계약서, 내부 지침 | 기관 규정과 계약상 비밀 유지 조건을 확인합니다 |
| 편하게 넣기 | 공개된 논문, 공고문, 교육 자료, 서식 양식 | 제약 없이 활용하셔도 됩니다 |
가리는 방법
대부분의 경우 이름을 기호로 바꾸는 것만으로 충분합니다. 판단에 이름 자체가 필요한 경우는 드뭅니다.
| 원본 | 바꾼 뒤 |
|---|---|
| 홍길동 (010-1234-5678) | 신청자 A |
| 1990년 3월 15일생 | 30대 |
| 서울시 ○○구 ○○동 123-4 | 서울 거주 |
"이 자료가 밖으로 나가도 괜찮은가?" 대답이 망설여진다면 가리거나 넣지 않으시는 편이 좋습니다.
"이 정보가 판단에 꼭 필요한가?" 필요 없다면 지우고 넣으셔도 결과는 같습니다.
판단에 필요하지 않은 정보는 넣지 않습니다. 대부분의 업무는 이름을 가려도 그대로 처리됩니다.
6.2Playground와 자료 처리
같은 모델이라도 어디에서 쓰시는지에 따라 자료가 다르게 다뤄집니다. 이 차이를 아셔야 합니다.
| 사용하는 곳 | 자료가 어떻게 다뤄지나요 | 이런 자료에 적합합니다 |
|---|---|---|
| Playground | 입력하신 내용이 모델 개선에 활용될 수 있습니다 | 공개 자료, 예시 문서, 기능 시험용 자료 |
| API · Studio | 업로드된 문서는 처리 후 서버에 보관되지 않습니다 | 업무 자료 (단, 기관 규정 확인 후) |
로그인이나 카드 등록 없이 바로 써 볼 수 있어 편리하지만, 입력하신 내용이 모델 개선에 활용될 수 있습니다.
기능이 어떻게 동작하는지 보실 때는 실제 자료 대신 비슷하게 만든 예시를 쓰세요. 실제 업무 자료는 API나 Studio에서 다뤄 주세요.
Studio의 에이전트는 링크로 공유하실 수 있고, 링크를 받은 분은 로그인 없이 보실 수 있습니다.
공유하시기 전에 실행 결과에 개인정보가 남아 있지 않은지 한 번 확인해 주세요.
Playground는 시험용, 업무 자료는 API나 Studio에서. 이 구분만 지키셔도 대부분의 위험이 줄어듭니다.
6.3API 키 관리
API 키는 내 계정으로 요청을 보낼 수 있는 열쇠입니다. 다른 사람이 알게 되면 내 크레딧이 사용될 수 있습니다.
코드에 직접 적지 않습니다
환경 변수나 Colab의 보안 비밀에 넣어 두시고, 코드에서는 이름으로 불러오세요. 실수로 저장소에 올라가는 일이 자주 생깁니다.
화면에 띄우지 않습니다
수업이나 발표에서 화면을 공유하실 때 키가 보이지 않도록 주의해 주세요. 캡처 이미지에 남는 경우도 많습니다.
사람마다 따로 발급합니다
여럿이 함께 쓰신다면 하나를 나눠 쓰시기보다 각자 발급받는 편이 안전합니다. 문제가 생겼을 때 해당 키만 폐기하시면 됩니다.
노출되었다면 바로 폐기합니다
실수로 공개하셨다면 콘솔에서 그 키를 삭제하시고 새로 발급받아 주세요. 되돌리는 것보다 새로 만드는 편이 확실합니다.
import os
api_key = os.environ["UPSTAGE_API_KEY"] # 값은 환경 변수에 두고 이름만 씁니다키는 코드가 아니라 환경 변수에 둡니다. 노출되었다면 되돌리려 하지 마시고 새로 발급받으세요.
6.4결과를 믿을 수 있는 범위
AI의 결과는 초안이자 참고 자료입니다. 어디까지 그대로 쓰고 어디부터 확인할지 미리 정해 두시면 좋습니다.
| 이런 일은 | 이렇게 다룹니다 | 이유 |
|---|---|---|
| 초안 작성, 요약, 정리 | 결과를 바탕으로 다듬어 사용 | 사람이 읽고 고치는 과정이 자연스럽게 들어갑니다 |
| 분류, 우선순위 매기기 | 결과를 참고해 사람이 확정 | 경계에 있는 건은 판단이 갈릴 수 있습니다 |
| 금액·날짜·이름 확인 | 반드시 원문과 대조 | 숫자 한 자리 차이가 큰 문제로 이어집니다 |
| 합격·불합격, 승인·반려 | 사람이 최종 결정 | 사람에게 영향을 주는 결정입니다 |
| 진료·법률·재무 판단 | 전문가가 판단 | AI의 결과를 근거로 쓰기 어렵습니다 |
확인을 쉽게 만드는 방법
- 근거를 함께 적게 합니다. "판단 근거를 한 문장으로", "원문 몇 쪽에서 찾았는지" 요청하시면 대조가 빨라집니다.
- 모르는 것은 모른다고 하게 합니다. "자료에 없으면 '찾을 수 없습니다'라고 답해 주세요"를 넣어 주세요.
- 확인이 필요한 경우를 따로 둡니다. 판단 값에 「확인필요」를 하나 더 두시면, 애매한 건이 자동으로 사람에게 넘어옵니다.
선발, 평가, 지원 여부처럼 사람에게 영향을 주는 결정에 AI를 활용하실 때는, 그 사실과 방식을 대상자에게 알리시는 편이 좋습니다.
그리고 결과에 이의를 제기할 통로도 함께 두세요.
자동화의 목적은 사람을 빼는 것이 아니라 확인할 곳을 좁히는 것입니다. 중요한 결정은 사람이 합니다.
6.5수업에서 안내하기
학생과 함께 쓰실 때는 시작 전에 몇 가지를 안내해 주세요.
어디까지 허용되는지 알려 줍니다
과제에 AI를 써도 되는지, 쓴다면 어떻게 표기해야 하는지 미리 정해 알려 주세요. 수업마다 기준이 다르면 학생이 혼란스러워합니다.
넣지 말아야 할 것을 알려 줍니다
본인과 타인의 개인정보, 아직 공개되지 않은 연구 자료는 넣지 않도록 안내해 주세요.
결과를 확인하는 습관을 만들어 줍니다
AI가 사실과 다른 내용을 말할 수 있다는 점을 알려 주시고, 근거를 찾아 확인하는 과정을 과제에 포함시켜 보세요.
실행 순서를 나눕니다
동시에 실행하면 호출 한도에 걸립니다. 조를 나누어 시간 차를 두고 진행해 주세요.
"AI를 쓰셔도 됩니다. 다만 세 가지만 지켜 주세요. 첫째, 개인정보는 넣지 않습니다. 둘째, 결과를 그대로 제출하지 마시고 확인한 뒤 본인 말로 정리해 주세요. 셋째, 어디에 어떻게 썼는지 한 줄로 적어 주세요."
허용 범위, 넣지 말 것, 확인 습관. 이 세 가지만 먼저 안내하셔도 대부분의 문제가 예방됩니다.
6.6[활동] 기관 지침 만들기
혼자 쓰실 때는 머릿속 기준으로 충분하지만, 함께 쓰시려면 적어 두셔야 합니다. 한 장이면 충분합니다.
A. 빈칸 템플릿
# ○○○ AI 활용 안내 (1장)
## 1. 어디에 씁니다
- 허용하는 업무:
- 담당자:
## 2. 이런 자료는 넣지 않습니다
-
-
-
## 3. 이런 자료는 가려서 넣습니다
- 대상:
- 가리는 방법:
## 4. 어디에서 씁니다
- 업무 자료: API / Studio
- 기능 시험: Playground (실제 자료 대신 예시 사용)
## 5. 사람이 반드시 확인합니다
- 확인이 필요한 항목:
- 확인하는 사람:
## 6. API 키
- 발급 방식 (개인별 / 공용):
- 보관 위치:
- 노출 시 조치:
## 7. 문제가 생기면
- 연락처:
- 기록해 둘 것:
## 8. 이 문서를 언제 다시 봅니까
- 갱신 주기:
- 담당:B. 채운 예시 (비영리 기관)
# ○○재단 AI 활용 안내 (1장)
## 1. 어디에 씁니다
- 허용하는 업무: 지출 증빙 확인, 공고문 검토, 회의록 정리
- 담당자: 경영지원팀 ○○○
## 2. 이런 자료는 넣지 않습니다
- 후원자 명단 (이름·연락처·후원 금액이 함께 있는 자료)
- 수혜자 개인정보가 담긴 상담 기록
- 계좌번호가 포함된 서류
## 3. 이런 자료는 가려서 넣습니다
- 대상: 신청서에 포함된 신청인 성명과 연락처
- 가리는 방법: 「신청자 A」 형태로 바꾼 뒤 사용
## 4. 어디에서 씁니다
- 업무 자료: Studio (에이전트 링크는 팀 내부에만 공유)
- 기능 시험: Playground (실제 신청서 대신 예시 양식 사용)
## 5. 사람이 반드시 확인합니다
- 확인이 필요한 항목: 금액, 기관명, 제출 기한
- 확인하는 사람: 해당 사업 담당자
## 6. API 키
- 발급 방식: 개인별 발급
- 보관 위치: 각자 환경 변수 (공용 문서에 적지 않음)
- 노출 시 조치: 즉시 콘솔에서 삭제 후 재발급, 팀장에게 공유
## 7. 문제가 생기면
- 연락처: 경영지원팀 ○○○
- 기록해 둘 것: 언제 / 어떤 자료 / 어떤 증상
## 8. 이 문서를 언제 다시 봅니까
- 갱신 주기: 6개월마다, 또는 다루는 업무가 늘어날 때
- 담당: 경영지원팀C. 점검표
- 넣지 않을 자료를 구체적으로 적었습니다. (「개인정보」가 아니라 실제 문서 이름으로)
- 가려서 넣을 자료의 처리 방법을 적었습니다.
- Playground와 업무용을 구분해 두었습니다.
- 사람이 확인할 항목과 담당자를 정했습니다.
- API 키 관리 방법을 정했습니다.
- 문제가 생겼을 때 연락할 곳을 적었습니다.
- 이 문서를 다시 볼 시점을 정했습니다.
처음부터 모든 경우를 담으려 하시면 만들다가 멈추게 됩니다. 지금 하는 업무 기준으로 한 장만 만들어 두시고, 새로운 상황이 생길 때마다 한 줄씩 더하시면 됩니다.
Part 6 핵심 정리
- 판단에 필요하지 않은 정보는 넣지 않습니다. 이름을 가려도 대부분 그대로 처리됩니다.
- Playground는 시험용입니다. 입력한 내용이 모델 개선에 활용될 수 있습니다.
- API 키는 코드가 아니라 환경 변수에 둡니다. 노출되면 새로 발급받으세요.
- 금액·날짜·이름, 그리고 사람에게 영향을 주는 결정은 사람이 확인합니다.
- 함께 쓰시려면 한 장짜리 안내를 만들어 두세요. 완벽하지 않아도 됩니다.
모두 마치셨습니다
여기까지 오셨다면 준비부터 실제 활용, 그리고 안전한 사용 기준까지 모두 살펴보신 것입니다. 수고 많으셨습니다.